7 / 25
Как работает логистическая регрессия и почему минимизируется log-loss, а не MSE?
Логистическая регрессия — линейная модель для классификации. Линейная комбинация признаков пропускается через сигмоиду σ(z) = 1 / (1 + e^-z), выдавая вероятность класса. Обучается минимизацией log-loss (cross-entropy), потому что MSE с сигмоидой даёт невыпуклую функцию потерь — gradient descent застревает в локальных минимумах. Log-loss выпукл и имеет красивый градиент (σ(z) - y) · x.