9 / 20
Как сменить модель эмбеддингов в проде: миграция индекса без простоя поиска
Векторы разных моделей несравнимы, поэтому «постепенно переехать» внутри одного индекса нельзя — нужен второй индекс. Схема: строим новый индекс параллельно, пишем новые документы в оба, сравниваем качество на оценочном наборе, переключаем чтение флагом, держим старый индекс ещё неделю на случай отката. Главные расходы — пересчёт всех эмбеддингов и двойное хранение на время миграции; их считают до начала.