Прекратите крутить колеса: снижение переосмысления LLM путем извлечения закономерностей для раннего выхода из рассуждений
КЛЮЧЕВАЯ СУТЬ
Обнаружено: LLM проходят через три стадии «мышления», и после достижения правильного ответа модель часто начинает деградировать — сомневается, исправляет верное на неверное, зацикливается на повторах. Это называется «overthinking» (переосмысление), и это не рефлексия, а шум.
Метод RCPD позволяет определить оптимальный момент остановки генерации — Reasoning Completion Point (RCP) — когда рассуждение завершено, но деградация ещё не началась.
Ключевой инсайт: остановка генерации в точке RCP сокращает объём вывода на 30-50% и предотвращает ошибки, которые модель вносит при избыточной «рефлексии». Точность не падает, а иногда даже растёт — потому что модель не успевает «передумать» и испортить правильный ответ.