Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
GraphAttack - Использование репрезентационных слепых зон в механизмах безопасности LLM.
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
LLM значительно чаще генерируют запрещенный контент, когда запрос представлен в виде формальной структуры данных с задачей "напиши код для этого", а не в виде прямой инструкции на естественном языке.