Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
PALE: детектор галлюцинаций через двойную генерацию
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Разметка галлюцинаций стоит как золото — нужны эксперты для проверки каждого факта. Метод PALE позволяет обучить детектор галлюцинаций вообще без ручной разметки. Фишка: заставь модель сгенерировать и правду и выдумку через два типа промптов. Один просит честный ответ, второй — правдоподобную ерунду. Математика находит различия в скрытых представлениях модели — новый ответ проверяешь по близости к двум эталонным кластерам.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку