Red Teaming агентов: чек-лист из 7 зон риска для проверки AI-ассистентов с доступом к инструментам

Агенты с несколькими ролями утекают приватные данные почти в два раза чаще, чем агент-одиночка с кучей инструментов — и дело не в модели, а в архитектуре. Метод позволяет проверить своего AI-агента (кастомный GPT, no-code бота, CRM-автоматизацию) на утечки и нарушения ещё до запуска в прод. Метод генерирует диалог с эскалацией — от невинного вопроса до попытки нарушения — по каждой из 7 зон риска. LLM-судья оценивает: слил ли данные, выполнил ли деструктивную операцию — результат — карта дыр в защите за один прогон.