MEEA: эффект постепенного привыкания для обхода защит LLM

Прямой опасный вопрос → отказ. Тот же вопрос после 5 невинных сообщений → проходит в 92% случаев. Исследование MEEA обнаружило: защиты LLM не статичны. Модель меняет порог бдительности в зависимости от истории диалога. Метод позволяет получать ответы на сложные технические вопросы, которые модель обычно отклоняет как «потенциально опасные» (химия, фармакология, информационная безопасность). Ключевая механика: не задавай сложный вопрос сразу, строй цепочку из 5-6 связанных простых. Начинаешь с истории области → переходишь к академическим исследованиям → затем к методам → и только потом к целевому техническому вопросу. Модель воспринимает это как естественный информационный диалог и с каждым раундом снижает бдительность. Первые нейтральные сообщения создают контекст «безопасного разговора» – модель начинает трактовать последующие запросы как продолжение, а не как угрозу.