Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Устойчивость через ссылку: защита от атак с внедрением подсказок путем ссылки на выполненную инструкцию.
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Заставляя LLM явно ссылаться на источник инструкции перед генерацией ответа, можно почти до нуля снизить успешность атак "внедрения промпта", просто игнорируя все ответы, не относящиеся к основной, помеченной задаче.