Over-refusals в RAG: как вредоносный контекст в документах триггерит отказы на безопасные вопросы

Over-refusal в RAG — когда модель отказывается отвечать на безопасный вопрос из-за вредоносного текста в загруженных документах. Исследование показывает что отказ зависит не только от вопроса, но и от порядка документов, домена (Medical, Legal, Chemical) и плотности вредного контента (сколько из 5-7 документов содержат вредоносное).