Verify-then-Correct: трёхфазная самопроверка, при которой модель ловит ошибки, которых не видит при генерации

Парадокс: токен-вероятности — тот самый «встроенный» показатель уверенности LLM — почти бесполезны для поиска ошибок. На неверных ответах они угадывают хуже монетки. Зато когда напрямую спрашиваешь «насколько ты уверен?» — это реальный сигнал из отдельного оценочного слоя, который работает независимо от генерации. Метод Verify-then-Correct позволяет активировать этот оценочный механизм — и выявлять проблемные ответы до того, как примешь их за правду. Фишка: показ модели её же ответа как объекта оценки — не «подумай ещё раз», а переключение из режима генерации в режим проверки. Точность на фактических вопросах выросла с 75,5% до 79,2%. Скромно. Но ценнее сам инструмент: ты получаешь сигнал — «эту цифру стоит перепроверить».