Что такое OWASP LLM Top 10 и какие угрозы он перечисляет для LLM-приложений в проде?

OWASP LLM Top 10 (актуальна редакция 2025 года) — отраслевой ориентир по безопасности LLM-приложений: каталог из 10 категорий типичных угроз (LLM01..LLM10), где для каждой описаны суть, меры защиты и реальные инциденты. Покрывает: инъекции в промпт (LLM01), раскрытие чувствительных данных (LLM02), уязвимости цепочки поставки (LLM03), отравление данных и модели (LLM04), небезопасную обработку вывода модели (LLM05), избыточные полномочия агента (LLM06), утечку системного промпта (LLM07), слабые места векторов и эмбеддингов (LLM08), дезинформацию (LLM09) и неограниченное потребление ресурсов (LLM10). Используется для моделирования угроз: идёте по всем десяти категориям и для каждой отвечаете, чем именно закрываетесь в своей системе.