Разрыв замечания и действия: LLM видит противоречия в документах — но всё равно выдаёт опасный совет

Парадокс: чем крупнее модель — тем опаснее её советы при противоречивых данных. Исследователи обнаружили: модель, которая чаще всего признавала конфликт в источниках вслух, давала самые ненадёжные итоговые рекомендации. «Вижу противоречие» и «действую осторожно» — статистически не связанные события. Метод Uncertainty-OK позволяет разорвать эту иллюзию безопасности: явное разрешение модели сказать «не знаю» снижает число ошибочных советов почти вдвое. Фишка: добавь в промпт одну фразу — «молчание лучше ненадёжного вывода» — и модель получает допустимый выход без давления додумывать рекомендацию.