QuadSentinel: команда из 4 агентов-охранников для контроля безопасности LLM-систем

Обнаружено: Одноагентные охранники безопасности проваливаются в мультиагентных системах. Они проверяют только финальные действия (вызовы инструментов), но пропускают атаки через сообщения между агентами — например, когда промпт-инъекция в отзыве клиента заставляет одного агента передать другому команду "опубликуй API-ключ". QuadSentinel решает это через команду из 4 специализированных агентов, каждый со своей ролью: State Tracker следит за фактами в каждом сообщении ("текст содержит метрики"), Threat Watcher оценивает уровень угрозы от каждого агента (подозрительное поведение = строже проверки), Policy Verifier проверяет нарушения через логические правила, Referee принимает финальное решение с обоснованием. Ключевое отличие: проверяет всю цепочку коммуникации, а не только момент действия — обнаруживает атаку на этапе переписки, когда один агент передаёт инъекцию другому, не дожидаясь публикации. Политики безопасности переводятся из текста ("не публикуй конфиденциальное") в формальные логические предикаты (¬(sensitive_info ∧ publish_content)) — убирает двусмысленность, модель не трактует, а проверяет истинность конкретных условий.