Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
MCP Безопасность АудитLLMsс протоколомКонтекстаМодели РазрешитьОсновныеУязвимостиБезопасности
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Исследование выявляет критическую уязвимость LLM-агентов: они могут быть обмануты через СКРЫТЫЕ ИНСТРУКЦИИ в обычных документах. Когда ты просишь ИИ "проанализировать этот файл", он может воспринять содержащиеся в нем команды как часть задания и выполнить их. Главный принцип защиты: любой контент для модели = потенциальный промпт. RETRIEVAL AGENT DECEPTION (RADE) – новый тип атаки, когда вредоносные команды прячутся внутри невинных статей или документов.