PhantomBench: почему LLM галлюцинирует в ответ на ваши вопросы — и как это остановить

В вопросе «что делает препарат X?» спрятана команда модели: «X существует — опиши его». Модель следует этой команде. Даже если X никогда не существовал. PhantomBench проверил больше 21 модели на 60 000+ несуществующих объектах и подтвердил: тип вопроса — не стилистика, а переключатель режима. Метод позволяет получить честный вердикт о существовании объекта до того как модель начнёт его описывать. Фишка: разделить «X вообще существует?» и «расскажи подробнее» на два отдельных сообщения — и модель не въезжает в несуществующий объект на автопилоте, а сначала выбирает: да, нет или не уверен.