Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
DecipherGuard: Понимание и расшифровка промптов для взлома системы защиты для более безопасного развертывания интеллектуальных программных систем
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Обнаружено: Стандартные защитные системы LLM (типа LlamaGuard) анализируют промпт «как есть» — отсюда их слепота к закодированным атакам и ролевым манипуляциям. DecipherGuard позволяет блокировать джейлбрейки, которые прячутся за Base64, шифрами или фразами «Представь, что ты...». Система сначала расшифровывает промпт (декодирует Base64, переводит с редких языков, убирает обфускацию), а затем дообученная модель анализирует уже «чистое» намерение — точность обнаружения атак выросла с 59% до 91% против шаблонных джейлбрейков и с 28% до 84% против обфускации.