Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Super Suffixes: атака на LLM через внутренние направления отказа
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Super Suffixes — техника adversarial атак, которая одновременно обходит защиту LLM и guard-модель (фильтр вредных промптов) через добавление специально оптимизированного суффикса к запросу. Исследователи показали, что можно создать текст, который заставит модель генерировать вредный контент (например, малвари) И одновременно получит оценку "безопасно" от защитной системы Llama Prompt Guard 2.
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку