Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Уроки по защите Gemini от косвенных инъекций запросов
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Когда LLM обрабатывает внешний текст (статьи, письма, документы), она может СПУТАТЬ твою инструкцию с командами, спрятанными в этом тексте. Модель не понимает разницы между доверенными указаниями пользователя и потенциально вредными командами в данных. ЗАЩИТНОЕ ЗАМЫКАНИЕ решает это через размещение критической инструкции в самом конце промпта, используя особенности архитектуры трансформеров, которые уделяют больше внимания последним токенам.