Skip to content
7 / 20

Многорукие бандиты вместо A/B: когда исследование прямо в проде оправдано, а когда нет?

Бандит непрерывно перераспределяет трафик в пользу вариантов, которые выигрывают прямо сейчас, — это выгодно, когда вариантов много, обратная связь быстрая, а мир нестационарный (подборки, баннеры, заголовки, порядок карточек). A/B выгоднее, когда нужен несмещённый размер эффекта для принятия долгого решения, когда метрика созревает днями или когда варианты влияют друг на друга. Плата за бандита — инженерная сложность и обязательное логирование вероятностей выбора: без них последующий анализ логов даёт смещённые выводы.

Многорукие бандиты вместо A/B: когда исследование прямо в проде оправдано, а когда нет? | JScriptiser