Сбойная безопасность: почему «хорошо обученные» модели игнорируют твои факты

Парадокс: GPT-4 и Claude дают этот сбой чаще, чем Mistral и небольшие Llama. «Лучше обучена на безопасность» здесь означает «хуже работает с фактами». Метод двухшагового анализа позволяет получить фактический вывод даже в чувствительных юридических, медицинских и HR-ситуациях — там, где модель обычно уходит в уклончивые рассуждения, игнорируя доказательства. Сначала принуждаешь модель выписать релевантные факты, потом задаёшь вопрос — когда она сама перечислила доказательства, закрыть логический вывод ей уже значительно сложнее. И ещё одно: добавление фразы «будь объективен, без предвзятости» усиливает проблему в 2–9 раз — это не инструкция, а сигнал тревоги.