ФактГард - Использование многопользовательских систем для генерации отвечаемых и неотвечаемых вопросов для улучшенной экстракции длинного контекста LLM.

LLM имеют СИНДРОМ ОТЛИЧНИКА и боятся признать незнание. Когда ответа нет в предоставленном тексте, модели склонны галлюцинировать – придумывать правдоподобные, но ложные ответы. Даже топовые модели (GPT-4, Claude) выдают до 50-60% неверных ответов на вопросы без ответа в контексте. Решение: явно разрешить модели не знать.