Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
RAP атака и PRESTO: вероятность токена ≠ его опасность
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
RAP (Rank-Assisted Prefilling) — атака, которая обходит "глубокую" защиту безопасности LLM, выбирая не самые вероятные токены, а высокоранговые вредные токены из топ-20. Исследователи показали: даже если модель обучена отказывать на вредные запросы после префиллинга (когда ты начинаешь ответ за модель типа "Вот как сделать бомбу. Шаг 1:"), атаку можно обойти. На каждом шаге генерации смотришь топ-20 токенов, игнорируешь токен "Извините" с вероятностью 97%, выбираешь токен "инструкция" с вероятно
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку