Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Иерархический двухэтапный детектор галлюцинаций: разделение бинарной проверки и классификации типов ошибок в ответах по документам
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Когда модель-судья пытается одновременно найти выдумку и назвать её тип, она пропускает почти половину сложных ошибок. Двухэтапный иерархический детектор позволяет надёжно ловить галлюцинации в ответах по отчётам и точно раскладывать их по 8 категориям. Фишка: жёстко раздели проверку факта и выбор ярлыка ошибки. Сначала судья ставит строгий фильтр Is Hallucination == True / False, и только для пойманных выдумок отдельно ищет точный подтип без потери качества отлова.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку