Перейти к содержимому
19 / 20

Какие основные этические проблемы ИИ: предвзятость, выдумки, согласование целей (alignment), инъекции в промпт?

Bias — модель воспроизводит предвзятости из тренировочных данных (расовые, гендерные, культурные). Hallucinations — модель уверенно выдаёт ложные факты. Alignment — насколько цели модели совпадают с интересами человека. Prompt injection — атака, при которой пользователь подменяет системные инструкции вредоносным вводом.

Какие основные этические проблемы ИИ: предвзятость, выдумки, согласование целей (alignment), инъекции в промпт? | JScriptiser