Что такое замкнутая петля обратной связи и почему она отравляет офлайн-оценку?

Модель решает, что показать; пользователь реагирует только на показанное; эти реакции становятся обучающими данными следующей модели. Круг замкнулся: система учится на данных, которые сама же и породила. Последствия — накопление смещения к тому, что уже показывалось, вырождение выдачи к популярному и завышенная офлайн-оценка: новая модель тем «лучше», чем сильнее она согласна со старой, ведь только на её показах есть отклик. Разорвать петлю полностью нельзя, но её ослабляют долей исследующего трафика, логированием вероятностей показа и контрфактическими оценками.