Перейти к содержимому
5 / 20

Дообучение, поиск по документам или длинный контекст: как выбрать и посчитать выгоду?

Разделение простое и держится годами: поиск отвечает за знания, которые меняются, дообучение — за поведение, которое не меняется, длинный контекст — за разовые задачи, где всё нужное помещается в запрос. Дообучать на меняющихся фактах бессмысленно: они устареют вместе с моделью. Дообучение окупается, когда нужны устойчивый формат ответа, тон, специфический навык или сокращение подсказки: короткая подсказка вместо длинной инструкции экономит на каждом вызове. Считается это через точку окупаемости: стоимость обучения против экономии на объёме вызовов.

Дообучение, поиск по документам или длинный контекст: как выбрать и посчитать выгоду? | JScriptiser