Skip to content
7 / 25

Как Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ логистичСская рСгрСссия ΠΈ ΠΏΠΎΡ‡Π΅ΠΌΡƒ минимизируСтся log-loss, Π° Π½Π΅ MSE?

ЛогистичСская рСгрСссия β€” линСйная модСль для классификации. ЛинСйная комбинация ΠΏΡ€ΠΈΠ·Π½Π°ΠΊΠΎΠ² пропускаСтся Ρ‡Π΅Ρ€Π΅Π· сигмоиду Οƒ(z) = 1 / (1 + e^-z), выдавая Π²Π΅Ρ€ΠΎΡΡ‚Π½ΠΎΡΡ‚ΡŒ класса. ΠžΠ±ΡƒΡ‡Π°Π΅Ρ‚ΡΡ ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·Π°Ρ†ΠΈΠ΅ΠΉ log-loss (cross-entropy), ΠΏΠΎΡ‚ΠΎΠΌΡƒ Ρ‡Ρ‚ΠΎ MSE с сигмоидой Π΄Π°Ρ‘Ρ‚ Π½Π΅Π²Ρ‹ΠΏΡƒΠΊΠ»ΡƒΡŽ Ρ„ΡƒΠ½ΠΊΡ†ΠΈΡŽ ΠΏΠΎΡ‚Π΅Ρ€ΡŒ β€” gradient descent застрСваСт Π² Π»ΠΎΠΊΠ°Π»ΡŒΠ½Ρ‹Ρ… ΠΌΠΈΠ½ΠΈΠΌΡƒΠΌΠ°Ρ…. Log-loss Π²Ρ‹ΠΏΡƒΠΊΠ» ΠΈ ΠΈΠΌΠ΅Π΅Ρ‚ красивый Π³Ρ€Π°Π΄ΠΈΠ΅Π½Ρ‚ (Οƒ(z) - y) Β· x.

Как Ρ€Π°Π±ΠΎΡ‚Π°Π΅Ρ‚ логистичСская рСгрСссия ΠΈ ΠΏΠΎΡ‡Π΅ΠΌΡƒ минимизируСтся log-loss, Π° Π½Π΅ MSE? | JScriptiser