RAG Corpus-Generator Trade-off: больше документов вместо большей модели

Парадокс RAG: модель на 1.7B параметров с корпусом в 4 раза больше обходит модель на 4B. Модель 4B с удвоенным корпусом стабильно обходит 8B. Метод позволяет экономить на размере модели, инвестируя в расширение корпуса документов для поиска. Фишка: покрытие (чтобы нужный документ попал в контекст) важнее умности модели. Если в топ-8 найденных чанков нет ответа — даже 14B модель беспомощна. А если ответ есть — tiny 0.6B найдёт его почти так же хорошо как giant 14B. Mid-sized модели (1.7B-4B) показывают пик эффективности ~42%, обходя 14B с ~38%.