Skip to content
15 / 28

Что такое reranking (cross-encoder, Cohere Rerank) и когда его добавлять?

Reranking — второй этап после retrieval: берёшь top-50/100 кандидатов и переранжируешь их более сильной моделью (cross-encoder), которая видит (query, document) одной парой и считает релевантность точнее, чем dot product векторов. Cross-encoder медленнее (нельзя индексировать заранее), поэтому работает только над shortlist'ом. Cohere Rerank, BGE-reranker, Jina Rerank — typical SaaS/OSS варианты.

Что такое reranking (cross-encoder, Cohere Rerank) и когда его добавлять? | JScriptiser