1
От «болтливого предателя» до универсального сканера уязвимостей для LLM
Классическая задача: построить корпоративного чат-бота на LLM для ответов на вопросы по внутренним документам. Казалось бы, что может пойти не так? А потом «умный» ассистент при правильно сформулированных вопросах превращается в болтливого предателя, и начинается утомительный ручной поиск дыр в безопасности.
Разберём, как эта боль приводит к созданию собственного универсального сканера уязвимостей для LLM-систем.