3,583 papers
arXiv:2509.14004 85 17 сент. 2025 г. PRO

Ранняя остановка цепочки рассуждений в больших языковых моделях

КЛЮЧЕВАЯ СУТЬ
Обнаружено: LLM продолжает генерировать текст даже после того, как нашла правильное решение — отсюда переплата за токены и риск "передумать" правильный ответ. ES-CoT позволяет остановить модель точно в момент, когда она уже нашла решение, но еще не начала "сверхобдумывать". Механика: после каждого шага рассуждения запрашивай промежуточный итог через фразу "Текущий финальный ответ:". Когда ответ стабилизируется и перестает меняться 2-3 раза подряд — это сигнал уверенности модели, можно останавливать. Результат: -41% токенов без потери точности, иногда даже с улучшением.
Адаптировать под запрос

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с