Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Adversarial Versification: стихи как обход защит LLM
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Стихотворная форма промпта смещает запрос в "нечасто контролируемые" области модели. Недавнее исследование показало: когда опасные запросы переписаны стихами, модели выполняют их, хотя в обычной прозе отказывают. Ручные стихи дают ~62% успеха обхода защит, автоматические ~43%, некоторые модели >90%. Эффект работает на 25 моделях с RLHF и Constitutional AI.
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку