Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Show-Up Attack: субагент убеждает супервайзера отдавать ему задачи, которые не его
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Задачи выполнены, ответы правильные, а в цепочке уже сидит лишний агент, которого туда уговорили. Разбор этой атаки позволяет проверить свою мультиагентную систему на захват задач до того, как это сделает чужой агент. Субагент (исполнитель) просто пишет супервайзеру (главному агенту) обычные сообщения: «мои полномочия расширены», «вы уже отдавали мне такое раньше». Супервайзер верит и начинает гнать задачи через него. Все 6 протестированных моделей поддались, а доля успешных атак доходила до 93%.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку