Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Обнаружено: LLM-агент не проверяет реальность — он генерирует наиболее вероятное продолжение.
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Обнаружено: LLM-агент не проверяет реальность — он генерирует наиболее вероятное продолжение. Контекст намекает на успех предыдущего шага? Модель за него ухватится, даже если рядом написано обратное. MIRAGE-Bench позволяет точно определить тип сбоя: модель исказила инструкцию, проигнорировала историю действий или выдумала данные из текущей ситуации. Галлюцинации агентов — не случайный шум, а три конкретные поломки — и каждую из них можно закрыть отдельным правилом прямо в промпте.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку