Эффективное рассуждение для больших языковых моделей посредством управляемого уверенностью подавления отражений

Обнаружено: продвинутые LLM страдают «избыточным мышлением» (overthinking) — продолжают рассуждать и перепроверять себя даже после нахождения правильного ответа, используя слова-триггеры «Подождите», «Однако», «Как вариант», «Хм». Метод CGRS позволяет сокращать стоимость и время генерации ответов без потери точности. Система автоматически измеряет уверенность модели через энтропию следующих токенов, и при высокой уверенности (>90%) программно занижает вероятность появления этих слов-триггеров. Модель физически не может уйти в цикл самокоррекции — результат: минус 18-42% длины ответа при той же точности.