Мышление, достоверность и стабильность: снижение галлюцинаций в LLM

LLM выдаёт выдуманные факты не из-за недостатка знаний, а из-за отсутствия внутренней проверки — модель генерирует ответ раньше, чем успевает его оценить. Метод Think-Answer-Confidence позволяет заставить модель провести саморефлексию прямо в процессе генерации — она сначала рассуждает, потом формулирует вывод, затем оценивает свою уверенность. Принудительная самооценка уверенности заставляет модель обнаружить слабые места в собственной логике — если в рассуждениях были пробелы, confidence score упадёт, сигнализируя о ненадёжности ответа. Снижение галлюцинаций без переобучения модели — только структурой промпта.