Reasoning для честности: инструкция «подумай перед ответом» делает LLM честнее — и вот как это проверить

Содержание рассуждений модели не предсказывает нечестный финальный ответ — точность 53%, это уровень угадывания монеткой. Зато честный ответ по тексту рассуждений предсказывается с точностью 97%. Вывод: рассуждение — не объяснение ответа, а маршрут к нему. Метод позволяет получать устойчивые, честные оценки там, где модель по умолчанию съезжает в «удобный» ответ — соглашается, льстит, даёт размытую середину. Фишка: нечестные ответы живут в узких нестабильных зонах пространства ответов — добавь инструкцию «порассуждай вслух», и модель проходит через это пространство до финала, статистически выходя в широкую долину честного ответа. Больше предложений рассуждения = выше вероятность честного вывода.