Что делают L1, L2 и Elastic Net регуляризации? Чем они отличаются?

L2 (Ridge) добавляет к loss λ * Σ wᵢ² — равномерно сжимает веса к нулю, ни один не обнуляется. L1 (Lasso) добавляет λ * Σ | wᵢ | — приводит часть весов точно к 0, делает feature selection. Elastic Net = α * L1 + (1-α) * L2 — компромисс: и обнуление, и стабильность. Все три снижают variance ценой роста bias и борются с overfitting.