Откуда LLM «знает» так много? Как её обучали, если никто не писал ей правил?

Модели скармливают триллионы слов текста из интернета, книг, кода и Википедии, и заставляют играть в простую игру: «угадай следующее слово». Сотни миллионов раз ошибается → сотни миллионов раз подкручивают её внутренние параметры. Через несколько месяцев на тысячах видеокарт получается модель, которая для угадывания слов вынуждена была неявно выучить грамматику, факты, логику и стиль. После этого её ещё «полируют» примерами хороших ответов от людей.