Semantic Override: LLM молча подменяет ваши определения — и уверенно объясняет неверный ответ

Модель корректно пересказала ваше определение — и через три шага нарушила его. Без предупреждения, с уверенным объяснением. Исследователи назвали это semantic override: чем известнее термин, тем сильнее его «мышечная память» из обучения давит на ваше локальное правило — и выигрывает. Это исследование не даёт готового рецепта, но называет механику поломки. Понимая её, можно выстроить промпт иначе: явно объявить конфликт, заставить модель закрепить ваше определение до начала задачи и запретить угадывать. Метод позволяет работать с переопределёнными терминами так, чтобы модель не сползала к стандартному значению на середине ответа.