26 / 39
Что такое bias/variance tradeoff и как с ним работать?
Ошибку модели можно разложить на bias² (системное отклонение из-за упрощённых предположений), variance (разброс предсказаний на разных выборках) и noise (неустранимая шумовая компонента). Высокий bias = недообучение, высокий variance = переобучение. Между ними tradeoff: усложняем модель → bias↓, variance↑. Цель — минимум суммы. Регуляризация, ансамблирование, больше данных — главные рычаги.