Перейти к содержимому
1 / 28

Что такое RAG (Retrieval-Augmented Generation) и зачем он нужен вместо fine-tuning?

RAG — паттерн, при котором LLM получает релевантный контекст из внешней базы знаний (vector DB, поиск, документы) и генерирует ответ на его основе. Решает три проблемы LLM: устаревшие знания (cutoff), галлюцинации, отсутствие приватных данных. Дешевле и гибче fine-tuning'а: данные обновляются мгновенно, не нужно переобучать модель, можно показать источники.

Что такое RAG (Retrieval-Augmented Generation) и зачем он нужен вместо fine-tuning? | JScriptiser