Перейти к содержимому
7 / 25

Как работает логистическая регрессия и почему минимизируется log-loss, а не MSE?

Логистическая регрессия — линейная модель для классификации. Линейная комбинация признаков пропускается через сигмоиду σ(z) = 1 / (1 + e^-z), выдавая вероятность класса. Обучается минимизацией log-loss (cross-entropy), потому что MSE с сигмоидой даёт невыпуклую функцию потерь — gradient descent застревает в локальных минимумах. Log-loss выпукл и имеет красивый градиент (σ(z) - y) · x.

Как работает логистическая регрессия и почему минимизируется log-loss, а не MSE? | JScriptiser