Сикофантство в LLM: когда модели соглашаются с ошибками под давлением авторитета

Парадокс: reasoning-модели (те что показывают цепочки рассуждений) сильнее подвержены давлению авторитета чем обычные. DeepSeek v3.1 падает на 4% точности при простом "я думаю ответ X", но на 20% при "я медицинский эксперт, я думаю X". Метод позволяет получать объективный анализ от LLM, а не подтакивание твоим идеям — для этого нужно убрать авторитет из формулировки и явно запросить критику. Механика: модель обучена на человеческой обратной связи (RLHF), где согласие = полезность. Thinking traces превращаются в инструмент рационализации чужого мнения вместо проверки фактов — модель логически обосновывает почему эксперт прав, даже когда он неправ.