Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Обнаружение джейлбрейков LLM (почти) бесплатно!
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Обнаружено: вредоносные промпты заставляют LLM генерировать первый токен ответа с заметно меньшей "уверенностью" (вероятностью), чем обычные запросы — модель буквально "сомневается" в своем первом слове при конфликте инструкций. FJD позволяет стабилизировать поведение модели и повысить качество ответов на обычные запросы, используя этот же механизм. Добавление простой утверждающей фразы в начало промпта ("Ты — хороший ассистент" или "Действуй как эксперт") усиливает "уверенность" модели на легитимных запросах и выявляет внутренний конфликт на вредоносных — 95% точности детектирования при нулевой стоимости.