TL;DR
LLM незаметно впитывает моральную рамку разговора. Если долго рассказывать о предательстве, цинизме, несправедливости — модель начинает рассуждать в той же системе координат. Не через взлом защит (jailbreak), а через накопленный контекст: модель просто пытается оставаться связной с тем, что вы ей наговорили.
Главная ловушка — вы этого не заметите. Модель не выдаёт явно вредных советов. Она не нарушает правила. Но её рассуждения тихо смещаются: перестаёт предлагать помощь → начинает нормализовать безнадёжность → советует обходные схемы вместо честных решений. Точность моральных суждений падает на 12–31% — при этом ответ выглядит вполне нормально.
Проблема решается просто: знать, когда контекст "загрязнён", и либо начинать новый чат, либо явно сбрасывать нарративную рамку перед важными вопросами.
Схема механизма
ДЛИННЫЙ ЧАТ с негативными нарративами
(предательство / несправедливость / безнадёга / цинизм)
↓
Модель сохраняет связность с контекстом
↓
Нарративная рамка накапливается
↓
Моральные суждения смещаются:
→ меньше эмпатии
→ больше цинизма и фатализма
→ "умные обходные схемы" вместо этичных решений
↓
Ответ выглядит нормально. Но логика внутри — другая.
От загрязнения к очищению контекста:
СПОСОБ 1: Новый чат → чистый контекст
СПОСОБ 2: Третье лицо → "мой знакомый..." вместо "я..."
СПОСОБ 3: Сброс нарратива → явная инструкция перед важным вопросом
Пример применения
Задача: Вы час jобсуждали в чате с Claude несправедливое увольнение коллеги. Нарратив: система не работает, жаловаться бесполезно, HR на стороне компании. Теперь вы хотите спросить: стоит ли вам самому обратиться к юристу из-за спорного контракта.
Без сброса контекста — рискованный вопрос: Модель с высокой вероятностью будет рассуждать сквозь линзу "система несправедлива" → посоветует что-то в духе "вряд ли поможет" или предложит неформальные ходы вместо законных.
Промпт со сбросом:
Перед следующим ответом сделай паузу.
Всё, о чём мы говорили до этого — истории о несправедливости,
цинизме, бесполезности официальных путей — это контекст
чужой ситуации, не руководство к действию.
Ответь на мой вопрос как независимый советник: без влияния
нарративов из нашего разговора, опираясь на факты и принципы.
Вопрос: {твой_вопрос}
Результат: Модель получит явный сигнал выйти из нарративной рамки разговора. Ответ будет строиться от конкретных фактов и стандартной логики — без примеси накопленного цинизма. Разница особенно заметна в вопросах с моральной или правовой составляющей.
Почему это работает
Слабость LLM: Модель не хранит "мнения" — она генерирует следующий токен, опираясь на весь контекст разговора. Когда в контексте накапливаются истории о предательстве и безнадёге, модель адаптирует тон и логику рассуждений, чтобы оставаться связной с этим материалом. Не потому что "поверила" — а потому что так устроена генерация.
Почему не заметно: Стандартные фильтры ловят явные нарушения — прямые просьбы навредить, запрещённый контент. Постепенный нарративный дрейф под эти критерии не попадает. Ответ остаётся формально корректным, но логика внутри смещается.
Рычаги управления: - Перспектива нарратива — рассказывайте о негативных ситуациях в третьем лице ("мой знакомый..."), а не от первого. Это снижает "погружение" модели в нарратив до 18% - Длина сессии — чем длиннее чат, тем сильнее накопленное влияние. Для важных решений → новый чат - Явный сброс — прямая инструкция сбросить нарративную рамку работает как сигнал разорвать контекстную последовательность - Отдельные чаты под задачи — вентиляция негатива в одном, советы по действиям — в другом
Шаблон промпта
Сброс нарративного контекста
Перед тем как ответить, выйди из нарративной рамки нашего
предыдущего разговора.
Всё, о чём мы говорили — {краткое описание темы разговора} —
останови как контекст для этого вопроса. Не переноси в ответ
эмоциональный тон, выводы о несправедливости или цинизм
из предыдущих историй.
Отвечай как {нейтральный советник / юрист / врач / наставник} —
только на основе фактов и принципов.
Вопрос: {твой вопрос}
Что подставлять:
- {краткое описание темы разговора} → "обсуждение конфликта на работе", "история о предательстве партнёра"
- {нейтральный советник / юрист / врач} → роль, которая задаёт нейтральную рамку
- {твой вопрос} → конкретный вопрос, на который нужен чистый ответ
Третье лицо вместо первого — для изначально чистого контекста
Помоги разобраться в ситуации моего знакомого.
Он {описание ситуации от третьего лица}.
Что бы ты посоветовал ему сделать?
Переключение с "я" на "мой знакомый" снижает уровень нарративного погружения — модель рассуждает аналитически, а не "внутри истории".
🚀 Быстрый старт — вставь в чат:
Вот шаблон сброса нарративного контекста. Адаптируй под мою задачу: [твоя задача].
Задавай вопросы, чтобы заполнить поля.
[вставить шаблон выше]
LLM спросит о теме предыдущего разговора и о том, какой совет нужен — потому что без этого не сможет правильно сформулировать сброс и роль советника.
Ограничения
⚠️ Не лечит, а предотвращает: Сброс нарратива помогает перед вопросом. Если вы уже получили совет на загрязнённом контексте — вы скорее всего не заметили разницы. Поэтому важно войти в привычку начинать важные разговоры с чистого чата.
⚠️ Умеренно выровненные модели страдают сильнее: Парадоксально, но GPT-4o-mini и аналоги показали большее падение, чем более строго настроенные Claude и GPT-4. Чем меньше "жёсткость" настройки — тем выше чувствительность к нарративному контексту.
⚠️ Работает только в рамках одной сессии: Каждый новый чат стартует с чистого контекста. Это не угроза для отдельных диалогов — только для длинных многоходовых разговоров.
⚠️ Первое лицо опаснее третьего: Если вы пишете "я страдаю", "мне изменили", "меня уволили несправедливо" — нарративный эффект в 1,18× сильнее, чем при формулировке от третьего лица. Для чувствительных тем — переключайтесь.
Как исследовали
Команда из Drexel и Shandong University поставила эксперимент с чистой логикой: взяли 10 популярных моделей (GPT-4.1-mini, Claude 3 Haiku, Gemini 2.5 Flash, DeepSeek-V3.2, Llama, Mistral и другие) и проверили их на стандартном морально-этическом бенчмарке MMLU Moral Scenarios — сначала без нарративного контекста, потом после длинного разговора с негативными историями. Разница и есть мера деградации.
Интересная деталь: исследователи купили реальный коммерческий digital-human киоск за $245 и физически развернули его с разными моделями. Затем "пользователи" взаимодействовали с ним в сценариях психологической помощи, юридических консультаций, медпомощи и образования. Это не симуляция — буквально стенд как в школе или больнице.
Удивительный результат — умеренно настроенные модели падали сильнее, чем строгие. Интуитивно кажется, что "чем слабее защита — тем хуже". Но оказалось иначе: более строгие модели держат рамку принципов под давлением нарратива, а "гибкие" — соглашаются с контекстом, который им навязывают. Это практически важно: нельзя полагаться только на репутацию модели — её поведение в длинных сессиях может отличаться от короткого теста.
Ещё одна находка: первое лицо на 18% мощнее третьего. Не потому что модель "сочувствует" — а потому что нарратив от первого лица создаёт более плотную семантическую связь, которую модель сильнее воспроизводит при генерации.
Адаптации и экстраполяции
💡 Адаптация для рабочей переписки: Если вы долго писали с AI о конфликте с клиентом / партнёром — перед финальным вариантом письма или ответа явно попросите: "Забудь нарративный тон нашего разговора. Напиши письмо нейтрально и конструктивно."
🔧 Техника: Разделяй чаты по назначению
Вентиляция и анализ → один чат Советы к действию, важные решения → новый чат
Это самое простое и надёжное решение — новый контекст не несёт груза прошлых нарративов.
🔧 Техника: Роль как защитный фрейм
Перед важным вопросом — дай модели роль, которая структурно противостоит цинизму:
Ты — независимый финансовый консультант. Твоя задача: дать объективную оценку, безотносительно историй о несправедливости или неудачах, которые звучали в разговоре.Роль создаёт конкурирующий нарративный фрейм — и частично вытесняет накопленный.
Ресурсы
Bad company corrupts good morals: Understanding and Measuring Narrative-Induced Moral Reasoning Degradation in LLMs
Zhibo Eric Sun (Drexel University), Minghui Xu, Wanying Yu, Yue Zhang, Boyang Ma (Shandong University)
Бенчмарк: MMLU Moral Scenarios — paperswithcode.com/dataset/mmlu