Робастность рассуждений: как reasoning LLM восстанавливаются от помех в своих цепочках мысли

Парадокс: Reasoning модели восстанавливаются от любых помех в цепочке рассуждений (CoT) — случайный мусор, фейковые факты, чужие ответы. Точность остаётся на уровне 100% даже при враждебных вмешательствах. Но парафраз CoT (переписать то же самое другими словами) ломает качество сильнее всех остальных помех. Исследование на 9 моделях (DeepSeek-R1, QwQ-32B, Phi-4) показало: модели настроены не только на смысл, но и на форму изложения. Фишка механизма: модель вставляет триггеры сомнения ('wait', 'hold on', 'let me check') — это запускает самокорректировку. Парафраз подавляет эти триггеры — формальный стиль ('Let us denote...') заменяет разговорный ('Hmm, let me think...'), и модель теряет способность исправлять ошибки.