Почему LLM галлюцинируют и как минимизировать галлюцинации?

Галлюцинация — это когда модель уверенно генерирует факты, которых нет в реальности. Причина — обучение на предсказание следующего токена, а не на истинность. Модель оптимизирует «правдоподобный» текст, а не «правдивый». Минимизация: давать факты в контексте (RAG), включать tool use (поиск, calculator), использовать reasoning-модели, валидировать вывод через JSON Schema, низкая temperature.