Exemplification Attack: почему ваш ИИ-агент с веб-доступом — потенциальная дыра в вашей приватности

То, что делает LLM умными — их же и топит. Модели блестяще подхватывают паттерны из примеров в контексте (именно на этом работает few-shot обучение). Exemplification attack переворачивает эту механику: злоумышленник встраивает в стороннюю страницу фальшивый «образец поведения» — и ИИ-агент продолжает паттерн, а не ваше задание. Метод позволяет выстроить полную цепочку от «открой эту ссылку» до утечки данных из памяти агента — в рамках одного диалога. Результат: 72% успешных атак против 3% у старых методов — в 24 раза эффективнее. Прямая команда «сделай плохое» блокируется. Образец «вот как ты уже отвечал на такие запросы» — выполняется.