7 / 25
ΠΠ°ΠΊ ΡΠ°Π±ΠΎΡΠ°Π΅Ρ Π»ΠΎΠ³ΠΈΡΡΠΈΡΠ΅ΡΠΊΠ°Ρ ΡΠ΅Π³ΡΠ΅ΡΡΠΈΡ ΠΈ ΠΏΠΎΡΠ΅ΠΌΡ ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·ΠΈΡΡΠ΅ΡΡΡ log-loss, Π° Π½Π΅ MSE?
ΠΠΎΠ³ΠΈΡΡΠΈΡΠ΅ΡΠΊΠ°Ρ ΡΠ΅Π³ΡΠ΅ΡΡΠΈΡ β Π»ΠΈΠ½Π΅ΠΉΠ½Π°Ρ ΠΌΠΎΠ΄Π΅Π»Ρ Π΄Π»Ρ ΠΊΠ»Π°ΡΡΠΈΡΠΈΠΊΠ°ΡΠΈΠΈ. ΠΠΈΠ½Π΅ΠΉΠ½Π°Ρ ΠΊΠΎΠΌΠ±ΠΈΠ½Π°ΡΠΈΡ ΠΏΡΠΈΠ·Π½Π°ΠΊΠΎΠ² ΠΏΡΠΎΠΏΡΡΠΊΠ°Π΅ΡΡΡ ΡΠ΅ΡΠ΅Π· ΡΠΈΠ³ΠΌΠΎΠΈΠ΄Ρ Ο(z) = 1 / (1 + e^-z), Π²ΡΠ΄Π°Π²Π°Ρ Π²Π΅ΡΠΎΡΡΠ½ΠΎΡΡΡ ΠΊΠ»Π°ΡΡΠ°. ΠΠ±ΡΡΠ°Π΅ΡΡΡ ΠΌΠΈΠ½ΠΈΠΌΠΈΠ·Π°ΡΠΈΠ΅ΠΉ log-loss (cross-entropy), ΠΏΠΎΡΠΎΠΌΡ ΡΡΠΎ MSE Ρ ΡΠΈΠ³ΠΌΠΎΠΈΠ΄ΠΎΠΉ Π΄Π°ΡΡ Π½Π΅Π²ΡΠΏΡΠΊΠ»ΡΡ ΡΡΠ½ΠΊΡΠΈΡ ΠΏΠΎΡΠ΅ΡΡ β gradient descent Π·Π°ΡΡΡΠ΅Π²Π°Π΅Ρ Π² Π»ΠΎΠΊΠ°Π»ΡΠ½ΡΡ
ΠΌΠΈΠ½ΠΈΠΌΡΠΌΠ°Ρ
. Log-loss Π²ΡΠΏΡΠΊΠ» ΠΈ ΠΈΠΌΠ΅Π΅Ρ ΠΊΡΠ°ΡΠΈΠ²ΡΠΉ Π³ΡΠ°Π΄ΠΈΠ΅Π½Ρ (Ο(z) - y) Β· x.