Перейти к содержимому
9 / 20

Как сменить модель эмбеддингов в проде: миграция индекса без простоя поиска

Векторы разных моделей несравнимы, поэтому «постепенно переехать» внутри одного индекса нельзя — нужен второй индекс. Схема: строим новый индекс параллельно, пишем новые документы в оба, сравниваем качество на оценочном наборе, переключаем чтение флагом, держим старый индекс ещё неделю на случай отката. Главные расходы — пересчёт всех эмбеддингов и двойное хранение на время миграции; их считают до начала.

Как сменить модель эмбеддингов в проде: миграция индекса без простоя поиска | JScriptiser