Несоответствие Размышления с Ответами Рамочная структура для оценки устойчивости LLM CoT

Исследование показывает, что РАССУЖДЕНИЯ LLM КРАЙНЕ ХРУПКИЕ - незначительные изменения в промпте могут заставить модель выдать правильный ответ с совершенно ошибочной логикой. LLM может «подгонять объяснение под готовый ответ», а не последовательно выводить решение через рассуждения. Это означает, что CHAIN-OF-THOUGHT НЕ ГАРАНТИРУЕТ НАДЕЖНОСТИ мыслительного процесса.