Что требуется от человеческого надзора за ИИ: статья 14 EU AI Act, рабочие схемы (подтверждение человеком, правило двух ключей, выборочная проверка), как измерить его действенность и какие подходы не работают?

Человеческий надзор — это не просто «добавить человека в цикл». Это требование регулятора для высокорискового ИИ: статья 14 EU AI Act требует четыре способности (понимать ограничения системы, замечать аномалии, иметь возможность отменить решение, не поддаваться слепому доверию к автоматике). Подходы различаются по плотности контроля: проверять каждое решение (HITL) → выборочная проверка с эскалацией по порогу (HOTL) → периодический пересмотр правил. Правило двух ключей — для необратимых решений с высокой ценой ошибки. Действенность мерят через каппу Коэна (согласие), долю отмен и «сползание» проверяющего. Анти-паттерн №1 — штамповка не глядя: проверяются 100% решений, отменяется 0% — это театр, а не надзор.