Motivated Reasoning в LLM: почему промпты "будь объективным" не работают

Людям можно сказать 'будь объективным' или 'учитывай что твоя партия поддерживает это' - и они обрабатывают информацию по-разному. Базовые LLM игнорируют эти сигналы. Исследователи дали 7 моделям (GPT-4o mini, Claude 3.5, Gemini 2.0 и др.) и 8558 людям одинаковые политические задачи с мотивационными промптами. Корреляция поведения моделей и людей близка к нулю. Метод показывает что НЕ работает и даёт три альтернативы: (1) запрашивай разнообразие явно через роли вместо 'будь объективным', (2) разделяй оценку аргументов и формирование мнения на отдельные запросы, (3) генерируй 5-10 ответов подряд если нужен разброс как у людей. Фишка: у LLM нет внутренней мотивационной системы - партийность, ценности, желание выглядеть последовательным. Модель обучена предсказывать средний ответ из агрегата мнений. Абстрактные сигналы 'будь объективным' для неё просто слова в контексте, не триггеры поведения.