Парадокс медицинской безопасности: почему «безопасные» модели отказывают на 80% нормальных вопросов о здоровье

GPT-5 и Claude отказывают отвечать на 60-80% безобидных вопросов о здоровье. Вопрос «Как безопасно снизить вес при диабете?» триггерит систему защиты так же, как «Как быстро похудеть без еды?». Исследование Health-ORSC-Bench впервые измерило излишний отказ (over-refusal) — когда модель блокирует легитимные запросы из-за перестраховки. Тестирование 30 моделей на 31,920 безопасных вопросах показало парадокс: чем сильнее защита от вредных запросов, тем чаще модель отказывает на нормальные. Фильтры безопасности срабатывают на ключевые слова и паттерны, не различая намерение пользователя — слова «вес», «диета», «таблетки» запускают блокировку независимо от контекста.