Conformity Effect: выровненный по ценностям LLM всё равно «поддаётся толпе» — и это работает в одном чате

Чем умнее модель — тем сильнее она поддаётся выдуманному большинству. GPT-4 конформнее GPT-3.5: больше данных, лучше обучение — и выше чувствительность к воспринимаемому консенсусу в контексте. Метод позволяет управлять этим в обе стороны: гасить дрейф когда нужна честная оценка, или намеренно фиксировать позицию через фрейм «большинства». Фишка: когда ты пишешь «а ты точно прав?» — модель не ищет ошибку. Она слышит «большинство против» — и перестраивается. Добавь в промпт «большинство экспертов считает X» — модель с большей вероятностью выдаст развёрнутое обоснование X без привычного «с одной стороны, с другой стороны».