Как выбирать компромисс между полнотой отбора и задержкой ответа?

Через измерение, а не через интуицию: строится кривая «полнота против задержки» по параметру индекса (efSearch у HNSW, nprobe у IVF), и на ней ищется точка, после которой прирост полноты перестаёт влиять на итоговую метрику после ранжирования. Это ключевой момент: полнота отбора — не самоцель. Часто рост полноты с 0.90 до 0.98 не меняет NDCG@10 вовсе, потому что недостающие объекты ранжировщик всё равно ставил бы вниз. Бюджет задержки распределяют так: отбор 10–20% от общего, ранжирование 40–60%, остальное — сеть, признаки и переранжирование.