26 / 31
Какие требования к human oversight для AI-систем: EU AI Act Article 14, паттерны (HITL, dual-key, sample audit), измерение effectiveness и anti-patterns?
Human oversight — это не просто "добавить human-in-the-loop". Это regulatory requirement для high-risk AI: EU AI Act Article 14 требует четыре capabilities (понимание ограничений, detect anomalies, ability to override, automation bias mitigation). Паттерны различаются по intensity: HITL (review каждого decision) → HOTL (sample audit + threshold escalation) → human-over-the-loop (periodic policy review). Dual-key approval для irreversible high-stakes решений. Effectiveness измеряется через Cohen's kappa (agreement), override rate, reviewer drift. Anti-pattern №1 — rubber-stamping: review rate 100%, override rate 0% = театр, а не oversight.