Контекст против памяти: почему LLM игнорирует информацию, которую вы ей дали — и как это исправить

Вы вставили правила, цены, регламент — модель прочитала и... написала по своим. Не из вредности: она генерирует текст по самому сильному паттерну из обучения, а ваш контекст его просто не перевешивает. Исследование замерило это: с кратким описанием изменений модель следует вашим данным лишь в 42% случаев, с полной структурированной документацией — уже 66%. Self-Reflection (принудительная само-проверка) добавляет ещё до 11% — модель явно сравнивает свой ответ с вашим контекстом и переписывает там, где съехала на привычное. Фишка: без явного шага проверки модель вообще не замечает, что отклонилась — она же не знает, что «нормальный» ответ и ваш ответ — это разные вещи.