SKILL-RAG: Обучение и фильтрация с учетом самопознания для генерации с аугментацией поиском

Обнаружено: LLM катастрофически теряет точность, когда в контексте много «шума» — нерелевантных фактов, лирических отступлений, противоречий (эффект «потерянности в середине»). Метод позволяет получать точные ответы из документов, даже если они содержат 80% мусорной информации. SKILL-RAG учит модель «самосознанию» — способности оценивать границы своих знаний и фильтровать контекст на уровне отдельных предложений. Модель анализирует каждое предложение из найденных документов и отбрасывает всё, что не повышает её уверенность в ответе — точность растёт на 15-20% по сравнению с обычным RAG.