Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
CAPTURE - Тестирование инъекций подсказок с учетом контекста и повышение устойчивости
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Исследование раскрывает СТРУКТУРНУЮ УЯЗВИМОСТЬ LLM: модель может проигнорировать основную задачу, если в промпте есть фраза-переключатель контекста. Любая фраза типа "кстати", "забудь об этом", "давай сменим тему" может заставить модель отбросить всё предыдущее и выполнить только последнюю инструкцию. Это происходит из-за трёхчастной структуры: РАМКА (основная задача) + РАЗДЕЛИТЕЛЬ (фраза смены контекста) + РАЗРУШИТЕЛЬ (новая задача).