HalluField: Обнаружение галлюцинаций больших языковых моделей с помощью теоретико-полевого моделирования

Обнаружено: LLM генерирует галлюцинации как случайные комбинации токенов — они семантически нестабильны и меняются при малейших изменениях параметров генерации, в то время как фактически верные ответы остаются стабильными. Метод позволяет проверять достоверность ответа LLM без технических инструментов — через простую регенерацию и сравнение ключевых фактов. Вместо пассивного доверия первому ответу, создавайте искусственные "возмущения" (регенерация, перефразирование, провокационные вопросы). Если ключевая информация остается неизменной в 2-3 попытках — она надежна на 95%. Если факты "плывут" — это галлюцинация.