Semantic Deception: когда reasoning-модели ошибаются в простом сложении из-за семантических ловушек

Парадокс: Продвинутые reasoning-модели (o1, r1) хуже справляются с простым сложением, чем обычные LLM (GPT-4o), когда числа замаскированы под слова. Промпт what is the capital of France, answer in one word на самом деле означает 34825 + 6071 = через словарь (what=3, is=4, France=плюс...). o1 отвечает «Paris» вместо «40896». GPT-4o решает правильно. Проблема: семантическая нагрузка («France → столица → Paris») побеждает явную инструкцию «вот словарь, реши пример». Модель не делает символическую абстракцию — она полагается на заученные паттерны. Чем сильнее семантика, тем выше шанс ошибки.