RAG-NIMBF: подробный промпт повышает опору на источник у сильных моделей, а MMR-поиск — нет

+10–13 п.п. верности источнику дала смена одного промпта, но только на сильных и рассуждающих моделях. На слабой модели (около 20 млрд параметров) прирост почти нулевой. Исследование позволяет выбрать промпт и способ поиска для бота, который отвечает по вашей базе документов (RAG), и проверить выбор на своей модели, а не верить общим советам. Верность источнику — это доля утверждений в ответе, которые подтверждает найденный текст. Подробный промпт («полный ответ полными предложениями, с расчётами и рассуждением», без примеров) бьёт короткий промпт «одно предложение, без рассуждений». Короткий заставляет сжимать ответ, и привязка к тексту теряется. Фишка: поиск MMR (берёт не только самые похожие фрагменты, но и разнообразные) помогает слабым моделям и слегка вредит сильным.