MetaRAG: Метаморфическое тестирование для обнаружения галлюцинаций в RAG-системах

Обнаружено: RAG-системы галлюцинируют даже когда им дали точный источник — модель может выдумать факт, который звучит правдоподобно, но противоречит документу. MetaRAG позволяет автоматически проверять каждый факт в ответе на соответствие источнику без участия человека. Метод разбивает ответ на микро-факты и проверяет каждый через синонимы и антонимы — если модель соглашается с утверждением "Ибупрофен безопасен при беременности" и одновременно с "Ибупрофен опасен при беременности", это метаморфическое нарушение — явный признак галлюцинации.