Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
RENNERVATE: защита от скрытых инструкций во внешних данных
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
RENNERVATE — система защиты от непрямых prompt injection атак (IPI), когда вредоносные инструкции спрятаны во внешних данных. Система анализирует паттерны внимания (attention features) LLM во время генерации ответа — как модель "смотрит" на разные части промпта. По этим паттернам детектор определяет на уровне отдельных токенов, какие слова подозрительны, и вырезает их до того как LLM выполнит вредоносную инструкцию.
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку