Перейти к содержимому
13 / 20

Спроектируйте разбор и маршрутизацию входящих обращений: когда LLM лучше обычного классификатора, а когда хуже?

Если размеченных данных десятки тысяч и классы стабильны, обычный классификатор дешевле, быстрее и точнее — LLM тут проигрывает по всем статьям, кроме скорости запуска. LLM выигрывает на старте (классов много, разметки нет), при частой смене классов и там, где кроме категории нужно вытащить сущности и краткую суть. Рабочая схема — гибрид: LLM размечает поток, на этой разметке обучается лёгкая модель, а LLM остаётся на редких и новых случаях.

Спроектируйте разбор и маршрутизацию входящих обращений: когда LLM лучше обычного классификатора, а когда хуже? | JScriptiser