ОтветКонвергенция как сигнал для ранней остановки в рассуждениях

Большие языковые модели при пошаговом рассуждении находят правильный ответ уже на 60-80% длины своих размышлений. Остальные 20-40% генерации часто являются избыточным шумом, который может даже заменить правильный ответ на неверный. Модель «знает» ответ задолго до того, как перестает генерировать текст, но продолжает «думать» из-за инструкций в промпте.