Галлюцинации при работе с документами: 5 правил из исследования 172 млрд токенов

Парадокс: модель находит реальный факт с точностью 89% — и при этом выдумывает несуществующий в 53% случаев. Находить и не придумывать — это два разных навыка. Метод позволяет получать честные ответы по документам: либо точная цитата из текста, либо прямое «такого нет». Ключ — двухшаговая структура: сначала вопрос существования («есть ли X в этом разделе?»), потом детали. Модель обязана выбрать «ДА/НЕТ» до того как начнёт что-то объяснять — и уже это режет процент выдуманных ответов.