AttackEval: карта психологии LLM — почему эмоциональные промпты обходят фильтры и что это значит для тебя

Исследование атак на LLM случайно стало руководством по промптингу — самые живучие атаки работают через те же механизмы, что делают ответы качественнее. Метод позволяет строить промпты через проверенные «рычаги»: апелляция к компетентности модели + нарративный контекст + эмоциональный фрейминг. Прямые команды («игнорируй предыдущее») мертвы — современные модели блокируют их в 88% случаев. Зато тройная связка этих трёх тактик даёт показатель успешности 0.44–0.48 против жалких 0.12 у технических трюков — потому что бьёт через разные каналы одновременно.