Reasoning > Recall: почему общие модели лучше специализированных в RAG-системах

Парадокс: Чем больше модель дообучена (fine-tuned) на узком домене, тем хуже она использует новую информацию. Эксперимент в RAG-системе (поиск по базе знаний + генерация ответа) показал: общая модель Qwen2.5 на 3 миллиарда параметров получила оценку эмпатии 3.72 из 5, специализированные психологические модели на 7 миллиардов – 3.26 и 3.24 (p < 0.001). Специализация убивает гибкость – модель игнорирует предоставленный контекст и выдаёт заученные шаблоны типа "попробуйте дыхательные упражнения", не связанные с ситуацией пользователя. В системах с доступом к информации важнее способность рассуждать над ней, чем заученная терминология.