DeepConf: фильтрация рассуждений по внутренней уверенности модели

Обнаружено: когда LLM генерирует 512 путей рассуждения, она «спотыкается» с разной силой — где-то уверенно предсказывает токены, где-то вероятности размазаны по вариантам. Стандартное голосование считает все пути равными, игнорируя эту разницу. Метод DeepConf позволяет находить сломанные рассуждения через локальные провалы уверенности — когда модель «не знает что писать дальше». Фишка: вместо усреднения по всему тексту используй скользящее окно 2048 токенов. Один критический провал в окне = плохой путь рассуждения. Результат: фильтруй худшие 90% путей или режь генерацию на 500-м токене когда уверенность упала.