Перейти к содержимому
JS
JScriptiser
Система Онлайн
Патчи
Платформа
Квиз
FAQ
🇺🇸
en
Войти
В Лабораторию
Войти
База знаний
ИИ и LLM
Безопасность LLM
Безопасность LLM
OWASP LLM Top 10, инъекции в промпт, защита вызова инструментов, red team
Все
Легкие
Средние
Сложные
По умолчанию
По популярности
Сначала легкие
Сначала сложные
Развернуть
Свернуть
1
Средний
9
Что такое OWASP LLM Top 10 и какие угрозы он перечисляет для LLM-приложений в проде?
2
Сложный
14
Что такое непрямая инъекция в промпт (indirect prompt injection) и как защищаться, когда модель читает документы из RAG, веб-страницы и чужие файлы?
3
Сложный
14
Как защитить вызов инструментов от злоупотребления: запросы к внутренним адресам (SSRF), выполнение чужого кода, побег из shell и выход за пределы каталога?
4
Сложный
14
Как не выдать агенту лишних прав: минимальные привилегии, песочница и подтверждение опасных действий?
5
Сложный
10
Как данные утекают через ответ модели (картинка в markdown, побочные каналы) и как это перекрыть?
6
Сложный
9
Как найти и перекрыть утечку секретов в LLM-приложении: ключи API, переменные окружения и пароли в промптах, логах и ответах?
7
Сложный
9
Как защитить LLM-приложение от утечки персональных данных: Microsoft Presidio, AWS Comprehend, свой распознаватель сущностей и фильтры на входе и выходе?
8
Сложный
15
Как защитить цепочку поставки модели: происхождение весов, подписанные релизы, целостность проверочных наборов и NIST AI RMF?
9
Сложный
10
Что такое отравление обучающих и проверочных данных (data и eval poisoning), как это обнаружить и чем защищаться?
10
Сложный
10
Как выстроить проверку модели на обходы защиты и работу red team: Garak, PyRIT и регулярное тестирование?
Безопасность LLM | JScriptiser