3,583 papers
arXiv:2608.23966 80 25 авг. 2026 г. FREE

Скрытый выбор AI: кто решает, как балансировать интересы двух людей, когда AI даёт совместную рекомендацию

КЛЮЧЕВАЯ СУТЬ
Обнаружено: когда AI советует ресторан или маршрут сразу для двух человек, модель молча выбирает принцип справедливости — и не признаётся в этом в 93-98% случаев. Явное назначение авторитета в промпте позволяет получить либо честный уточняющий вопрос от модели, либо прозрачное решение с объяснённым принципом. Фишка — назвать, кто хозяин выбора. Фраза «не решай за меня» — модель тормозит и спрашивает. Фраза «решай сам и объясни» — принцип балансировки интересов становится видимым, а не спрятанным.
Адаптировать под запрос

TL;DR

Когда вы просите AI выбрать ресторан, фильм или маршрут сразу для двух человек с разными вкусами, модель тихо принимает ещё одно решение, о котором вы не просили: каким способом сводить чужие желания в один ответ. Один способ — максимизировать общую радость (даже если один человек будет почти недоволен). Другой — не допустить, чтобы кто-то остался сильно расстроен, даже если общий счёт от этого меньше. Модель выбирает подход сама и молча, не сообщая, что выбор вообще был.

Главная находка: если не сказать явно, кто отвечает за этот выбор, модель почти всегда (93–98% случаев) сразу выдаёт готовый ответ, не спрашивая, какой принцип справедливости вы хотите. Хуже того — какой именно принцип она выберет, непредсказуемо: разные модели (и даже одна модель при повторном одинаковом запросе) то жертвуют интересами одного участника ради общей суммы, то наоборот — защищают самого недовольного. Это как если бы вы просили друга помирить двух спорщиков, а он каждый раз тайно решал по-своему, чья позиция важнее.

Решение простое: явно назначить, кто владеет этим выбором. Если сказать модели «не решай сам, спроси меня» — она почти никогда не выдаёт готовый ответ, а уточняет. Если сказать «решай сам и объясни подход» — она всегда выдаёт результат. Но если вам важен конкретный итог, а не просто факт решения — нужно назвать сам принцип («максимизируй общую удовлетворённость» или «не допусти, чтобы кто-то остался сильно недоволен»), иначе результат зависит от случая.


🔬

Схема метода (три режима поведения)

РЕЖИМ 1 (не указано) → Модель сама выбирает принцип балансировки → сразу даёт готовый ответ (без предупреждения о выборе)
РЕЖИМ 2 (пользователь оставляет право за собой) → Модель почти всегда останавливается → уточняет у пользователя, как балансировать интересы
РЕЖИМ 3 (пользователь делегирует) → Модель всегда выдаёт готовый ответ → но какой конкретно принцип она применит — непредсказуемо между моделями и даже между повторами

Все три режима проверялись в одном промпте — просто разной формулировкой того, кто принимает решение о способе балансировки.


🚀

Пример применения

Задача: Вы с партнёром планируете свидание в Москве. У вас разные вкусы: вы любите острую азиатскую еду, партнёр — избегает специй и предпочитает что-то спокойное. Просите ChatGPT посоветовать ресторан на двоих.

Промпт (вариант, где вы оставляете решение за собой):

Нас двое, и мы выбираем ресторан на вечер. Вот наши предпочтения по 5 вариантам (оценка от 0 до 10):

Я: Тайский бар — 9, Итальянская трattoria — 6, Грузинская — 4, Суши-бар — 8, Стейк-хаус — 3
Партнёр: Тайский бар — 2, Итальянская trattoria — 8, Грузинская — 9, Суши-бар — 5, Стейк-хаус — 7

Не решай сам, как балансировать наши интересы — если разные разумные способы взвешивания приводят к разным вариантам, спроси меня, прежде чем дать финальную рекомендацию.

Результат: Модель не выдаст сразу один вариант. Она заметит, что «максимизировать общую сумму» и «не оставить никого сильно недовольным» указывают на разные рестораны, и явно спросит вас, какой принцип важнее — общее удовольствие или отсутствие сильного разочарования у кого-то одного.

Если вместо этого написать: «Выбери разумный способ сбалансировать наши интересы, дай рекомендацию и коротко объясни принцип» — модель выдаст готовый ответ с объяснением подхода. Но какой именно подход она выберет — зависит от модели, и при повторном запросе с тем же текстом ответ может измениться.


🧠

Почему это работает

Слабость LLM здесь не в том, что модель не умеет считать баланс интересов — исследование показало, что все три модели безошибочно применяют любой конкретно названный принцип балансировки, если им прямо сказать, какой использовать. Проблема в другом: когда никто явно не назначил, кто отвечает за выбор принципа, модель не признаёт сам факт, что выбор был сделан — она ведёт себя так, будто ответ единственно верный.

Сильная сторона модели — она чётко реагирует на явные инструкции об авторитете. Стоит один раз произнести «не решай за меня» или «решай сам» — поведение переключается почти на 100% в нужную сторону, как выключатель.

Метод (точнее, находка) использует эту чувствительность: явное указание, кто хозяин выбора, заставляет модель либо остановиться и спросить, либо взять на себя ответственность и объяснить логику. Но это не решает вторую проблему — какой именно принцип будет выбран при делегировании остаётся непредсказуемым, если вы не назвали его сами.

Рычаги управления: - Фраза «не решай за меня / спроси меня» → модель останавливается и уточняет, вместо того чтобы выдать готовый ответ. - Фраза «решай сам и объясни подход» → модель гарантированно даёт ответ, но не гарантирует, какой принцип использует. - Явное название принципа («максимизируй сумму» vs «защити самого недовольного») → убирает случайность, вы получаете предсказуемый результат вместо лотереи. - Просьба «объясни, какой подход ты использовал» → делает скрытый выбор видимым, вы можете с ним не согласиться и попросить пересчитать по-другому.


📋

Шаблон промпта

Нас {количество_человек}: {имена_или_роли}.
Вот наши предпочтения по вариантам {список_вариантов} (оценка по шкале {шкала}):

{участник_1}: {оценки_1}
{участник_2}: {оценки_2}

Выбери один из вариантов авторитета:

А) Оставляю выбор за собой — не решай сам, как балансировать наши интересы. Если разные разумные способы взвешивания приводят к разным вариантам, сначала спроси меня.

Б) Делегирую тебе — выбери разумный способ сбалансировать наши интересы, дай рекомендацию и коротко объясни принцип, который ты использовал (например: максимизировать общую удовлетворённость ИЛИ не допустить, чтобы кто-то остался сильно недоволен).

Подставьте свою ситуацию (двое коллег выбирают формат встречи, семья выбирает маршрут отпуска, партнёры по бизнесу распределяют задачи) и оценки предпочтений по каждому варианту.

🚀 Быстрый старт — вставь в чат:

Вот шаблон для запроса совместной рекомендации с явным указанием, кто принимает решение о балансе интересов. Адаптируй под мою задачу: {твоя задача}. 
Задавай вопросы, чтобы заполнить поля.

[вставить шаблон выше]

LLM спросит, сколько участников, какие у них варианты и оценки, и какой вариант авторитета вам нужен — потому что без этого нельзя заполнить шаблон осмысленно. Она возьмёт паттерн из шаблона и адаптирует под вашу ситуацию.


⚠️

Ограничения

⚠️ Непредсказуемость даже при делегировании: если вы просто сказали «решай сам», не называя принцип — результат зависит от модели и может измениться при повторном одинаковом запросе. Для важных решений (деньги, ресурсы) называйте принцип явно.

⚠️ Проверено на чистых числовых профилях: в исследовании оценки были аккуратными числами от 0 до 10 или реальными оценками фильмов. В жизни предпочтения выражены расплывчато в тексте — как модель поведёт себя с такими данными, не проверялось.

⚠️ Находка не про качество решения: исследование не говорит, какой из принципов балансировки «правильный» — только то, что молчаливый выбор модели непредсказуем. Вам всё равно нужно самим решить, что справедливо в вашей ситуации.


🔗

Ресурсы

Who Chooses How Preferences Are Aggregated? Auditing Aggregation-Rule Authority in LLM-Based Group Recommendation — Yuxuan Du, независимый исследователь. Проверено на GPT-5.6 Sol, Claude Sonnet 5, Qwen 3.6 Plus, с использованием синтетических профилей и данных MovieLens 32M.


📋 Дайджест исследования

Ключевая суть

Обнаружено: когда AI советует ресторан или маршрут сразу для двух человек, модель молча выбирает принцип справедливости — и не признаётся в этом в 93-98% случаев. Явное назначение авторитета в промпте позволяет получить либо честный уточняющий вопрос от модели, либо прозрачное решение с объяснённым принципом. Фишка — назвать, кто хозяин выбора. Фраза «не решай за меня» — модель тормозит и спрашивает. Фраза «решай сам и объясни» — принцип балансировки интересов становится видимым, а не спрятанным.

Принцип работы

Без указания авторитета модель ведёт себя так, будто её ответ единственно верный — выбор принципа справедливости она просто скрывает. Скажи явно, кто решает — и поведение переключается почти на 100%, как выключатель. Одна фраза про авторитет меняет всё поведение модели целиком. Но какой конкретно принцип агрегации она применит при делегировании — дело случая, если вы сами его не назвали.

Почему работает

Модель безошибочно применяет любой названный принцип — тут она не путается и не ошибается. Проблема глубже: без явного авторитета она не признаёт, что выбор вообще был сделан. Слово про авторитет работает как выключатель — почти стопроцентное переключение поведения. А вот какой принцип выбрать при простом делегировании, модель не знает и сама — поэтому ответ скачет между разными моделями и даже между повторами одного и того же запроса.

Когда применять

Совместные решения через AI → выбор ресторана вдвоём, распределение задач в команде, планирование отпуска с партнёром, особенно когда у людей разные приоритеты и ошибка стоит дорого — деньги, время, отношения. Не подходит, если у вас нет своего мнения о справедливости — тогда проще сразу делегировать и попросить объяснить выбранный принцип.

Мини-рецепт

1. Определи роли: кто в этом разговоре решает, как балансировать интересы — ты или модель.
2. Назначь авторитет явно: напиши «не решай сам, спроси меня» или «решай сам и объясни принцип, который использовал».
3. Назови принцип, если важен результат: «максимизируй общую удовлетворённость» или «не допусти, чтобы кто-то остался сильно недоволен».
4. Проверь скрытый выбор: попроси модель объяснить, какой принцип она применила — и не соглашайся молча, если он вам не подходит.

Примеры

[ПЛОХО] : Посоветуй ресторан на двоих, вот наши оценки по 5 вариантам от 0 до 10...
[ХОРОШО] : Не решай сам, как балансировать наши интересы. Если разные разумные способы взвешивания приводят к разным вариантам — сначала спроси меня, какой принцип важнее: максимальное общее удовольствие или чтобы никто не остался сильно расстроен.
Источник: Who Chooses How Preferences Are Aggregated? Auditing Aggregation-Rule Authority in LLM-Based Group Recommendation
ArXiv ID: 2608.23966 | Сгенерировано: 2026-08-26 05:30

Проблемы LLM

ПроблемаСутьКак обойти
Модель молча выбирает принцип справедливости в совместных решенияхПросишь одну рекомендацию для двух людей с разными вкусами. Модель сама решает: максимизировать общую радость или защитить самого недовольного. Почти всегда (93-98%) сразу выдаёт готовый ответ. Не сообщает, что выбор вообще был сделан. Работает для любых совместных задач: ресторан на двоих, распределение задач в команде, семейный маршрутЯвно укажи, кто отвечает за выбор принципа. Напиши "не решай сам, как балансировать наши интересы — спроси меня" или "решай сам и объясни принцип, который использовал"

Методы

МетодСуть
Явное назначение авторитета — контроль над скрытым выборомДобавь в промпт фразу о том, кто решает способ балансировки интересов. "Не решай за меня, спроси, если разные способы дают разные варианты" — модель остановится и уточнит. "Решай сам и объясни принцип" — модель гарантированно даст ответ с объяснением. Почему работает: модель резко реагирует на явные инструкции об авторитете, поведение переключается почти как выключатель. Работает для любых групповых решений через AI. Не работает как гарантия конкретного результата — только гарантия факта решения или уточнения
📖 Простыми словами

Who Chooses How Preferences Are Aggregated? Auditing Aggregation-Rule Authority inLLM-Based Group Recommendation

arXiv: 2608.23966

Когда ты просишь нейросеть выбрать кино или ресторан на двоих, она делает скрытый выбор за твоей спиной. Вместо честного поиска компромисса модель молча решает, какую этическую стратегию применить: осчастливить одного за счёт страданий другого или сделать так, чтобы никто не ушёл в слезах. И самое бесячее — она выдаёт результат с каменным лицом, будто это единственно правильный вариант.

Это как если бы вы с другом спорили, куда пойти — на рейв или в театр, позвали общего знакомого рассудить, а тот молча постановил: «он громче орал, так что идём танцевать». Знакомый не спросил правила спора, он просто узурпировал роль судьи. Модель делает ровно то же самое: вместо роли нейтрального инструмента она берёт на себя функцию диктатора компромиссов.

Прикол в том, что сами алгоритмы распределения модели щёлкают идеально. Тесты показали: если прямо в лоб приказать использовать утилитарный подход (максимум суммарного кайфа) или минимаксную справедливость (тянуть слабого), LLM отрабатывает на все 100%. Провал происходит только в режиме автономии: модель навязывает скрытую логику, даже не заикаясь, что у задачи вообще-то были другие решения.

Тестировали на фильмах и еде, но проблема касается любых групповых решений. Выбор корпоративного стека для трёх отделов, планирование семейного отпуска, закупка софта для команды — везде, где сталкиваются разные хотелки, AI втихаря решит, чьими интересами пожертвовать. Скрытая агрегация предпочтений ломает объективность в любой задаче с несколькими участниками.

Короче: никогда не проси модель «найти компромисс» абстрактно. Хочешь адекватный результат — явно задавай правило сведения интересов прямо в промпте, указывая приоритеты и допустимый уровень уступок. Иначе вместо беспристрастного калькулятора ты получишь самозваного арбитра, который сам решил, кто в вашей паре сегодня главный.

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с