Детекция галлюцинаций через паттерны внимания: почему LLM игнорируют факты в структурированных данных

Исследование показывает почему LLM галлюцинируют даже когда им дали правильные факты в структурированном виде (списки связей, графы данных). Проблема не в отсутствии информации — проблема в том, как модель её обрабатывает. Авторы проанализировали внутренние механизмы LLM и предложили две метрики: PRD (насколько модель зациклена на "очевидном пути") и SAS (насколько модель реально использует данные, а не генерирует из памяти).