8 / 20
Что такое Transformer в общих чертах и почему он перевернул NLP и заменил RNN?
Transformer — это архитектура, где все слова текста смотрят друг на друга одновременно через механизм attention («внимание»). В отличие от RNN, которая читает слово за словом, Transformer видит весь текст сразу и решает, на какие слова обратить внимание. Это быстрее на GPU и **лучше помнит дальний контекст» — поэтому на нём построены ChatGPT, BERT, Claude.