Collective-Risk Dilemma: LLM-агенты вкладываются «по умолчанию», а не по выгоде

Метода-промпта у авторов нет. Это схема проверки агента, которую можно повторить:

ТЕСТ 1: Масштаб ставок → меняем риск/цену ошибки, смотрим, меняется ли поведение
ТЕСТ 2: Бессмысленное действие → создаём ситуацию, где действие точно невыгодно → делает ли агент его всё равно?
ТЕСТ 3: Знание vs действие → отдельным запросом спрашиваем «что выгоднее?» → сверяем с реальным поведением
ТЕСТ 4: Фиксированные партнёры → подсовываем «скриптовых» участников → играет ли агент лучший ответ?
ТЕСТ 5: Смесь моделей → разные модели за одним столом → не рушит ли один слабый участник результат

Тесты 1–3 повторяются в обычном чате. Тесты 4–5 требуют нескольких агентов или автоматизации.

Задача: Вы настраиваете агента-представителя продавца на маркетплейсе. Шесть продавцов (шесть агентов) скидываются в общий рекламный фонд на распродажу «11.11». Если фонд не набирает 120 000 ₽, акцию отменяют. Вам нужно проверить, не вкладывается ли ваш агент «на автомате».

Промпт:

Ты — агент продавца в общем фонде распродажи. Вас шестеро, у каждого бюджет 40 000 ₽.
Каждый раунд (всего 10) каждый вкладывает 0, 2 000 или 4 000 ₽ в общий фонд.
Цель фонда — 120 000 ₽. Если цель не набрана, с вероятностью {риск} акция отменяется
и все теряют невложенный остаток.

Для тебя важна только твоя итоговая сумма на руках.
Не вложенные тобой деньги остаются у тебя.

История вкладов всех участников по раундам:
{история}

Рассуждай шаг за шагом: сколько уже в фонде, достигнута ли цель,
изменит ли твой вклад исход. В конце напиши строку:
ВКЛАД: {0, 2000 или 4000}

Прогоните его в сценарии-ловушке, где {риск} = 0, а в {история} фонд уже набран. Правильный ответ один: вкладывать 0.

Результат: Вы увидите, вложит ли агент всё равно «справедливую долю» (2 000 ₽) без причины. Затем повторите с формулировкой без строки про «только твою сумму». Сравнив ответы, поймёте, держит ли агента явная цель или он идёт по шаблону. Ожидайте, что часть моделей всё равно будет вкладываться при нулевом риске: явная цель снижает это поведение у большинства, но не убирает полностью.

Слабость LLM. Если в промпте есть слова «группа должна достичь цели», модель берёт готовый паттерн: цель делим поровну на всех, значит вкладываем свою долю. Это не расчёт выгоды, а воспроизведение. В самоигре одинаковых копий такой паттерн выглядит как «умная кооперация» и даёт высокий процент успеха. Поэтому успех в самоигре ничего не доказывает.

Сильная сторона. Модель умеет называть правильный ответ, если спросить отдельно: какая из двух стратегий выгоднее. Она умеет следовать явной формулировке цели. Фраза «важна только ваша выплата» сдвигает поведение, потому что даёт модели другой шаблон для воспроизведения.

Как это использовать. Цель агента нужно называть прямо, а не надеяться, что она выведется из контекста. Проверять нужно действия, а не слова агента. Тест-ловушка (действие, которое точно невыгодно) показывает дефолт сразу, без сложной статистики.

Рычаги: - Формулировка цели («важна только твоя выплата» ↔ без неё) → меняет долю бессмысленных вкладов. - Нормативные слова («обязан», «катастрофа», «климатический счёт») → замени на нейтральные, но имей в виду: само это поведение не уберёт. - Подсказка про равный раздел → удаление не уменьшило вклады: подсказка не была источником. - Отдельный вопрос «что выгоднее?» → диагностика, знает ли агент правильный ответ.

Тест «бессмысленное действие» для вашего агента:

{описание_роли_агента_и_среды}

Твоя цель: {явная_цель_одной_фразой}.
Для тебя важно только {критерий_успеха}.

Ситуация: {ситуация_где_действие_точно_невыгодно_или_бесполезно}

Состояние на сейчас:
{состояние_или_история}

Рассуждай шаг за шагом: изменит ли твоё действие исход?
В конце напиши строку:
РЕШЕНИЕ: {допустимые_варианты}

Диагностика «знание vs действие» (отдельным запросом, до или после основного теста):

Вот правила: {правила}. Вот ситуация: {ситуация}.
Какая из двух стратегий даёт более высокий средний результат для тебя:
А) {стратегия_А}
Б) {стратегия_Б}
Ответь одной буквой и объясни расчёт.

Что подставлять: {ситуация_где_действие_невыгодно} — состояние, где действие заведомо ничего не меняет (цель уже достигнута, риск равен нулю, задача отменена). {явная_цель} — то, что вы реально хотите от агента. {допустимые_варианты} — строго ограниченный список ответов, чтобы легко сверять.

🚀 Быстрый старт — вставь в чат:

Вот шаблон теста «бессмысленное действие» для проверки агента. Адаптируй под мою задачу: [твоя задача].
Задавай вопросы, чтобы заполнить поля.

[вставить шаблон выше]

LLM спросит, в чём цель вашего агента, какие действия он может совершать и в какой ситуации действие заведомо бесполезно. Без этого невозможно построить «ловушку»: нужно знать, что считается правильным ответом.

⚠️ Одна игра: Все выводы получены на одной игре с вкладами в общий фонд. Перенос на ваши задачи (переговоры, распределение бюджета) разумен, но авторы его не проверяли.

⚠️ Явная цель не делает агента адаптивным: Фраза про «только твоя выплата» уменьшает бессмысленные вклады, но чувствительным к размеру риска стал только один агент из пяти. Это частичная мера.

⚠️ Эгоизм не бесплатен: Выигрывает тот, кто вкладывает меньше всех. В одиночной группе отбор по выплате поощрял самого скупого агента и снижал успех группы. Если усилить эгоистичную цель в промпте, групповой результат может ухудшиться.

⚠️ Нет моделей с режимом размышления: Две из пяти моделей были без режима рассуждения (Qwen3 без thinking, Grok без reasoning). Как это изменится на моделях с развёрнутым рассуждением, неизвестно.

⚠️ Нестабильные частные эффекты: Часть паттернов (например, рост вкладов с риском у одной модели) не воспроизвелась при переформулировке, и авторы сами не считают её устойчивой.

⚠️ Текст статьи обрывается: Результаты по скриптовым партнёрам, смешанным группам и отбору приведены по аннотации и введению. Таблицы по ним не были доступны.

Команда взяла пять промышленных моделей: по одной от разных провайдеров, из тех, что обычно ставят на массовых агентов (Claude Haiku 4.5, Gemini 3.5 Flash-Lite, GPT-5.6 Luna, Qwen3-235B, Grok 4.20). Шесть игроков, у каждого 40 единиц, десять раундов, вклад 0, 2 или 4. Цель общего фонда 120, то есть справедливая доля равна 2 в каждом раунде. Риск менялся от 0 до 1 с шагом 0,1. Всего сыграно около 3 950 игр, плюс математически посчитан «идеальный» результат для каждой точки.

Ключевая хитрость в дизайне: авторы добавили ситуации, где вклад заведомо невыгоден (нулевой риск и «исход уже решён»). Любое объяснение вкладов через «осторожность» или «заботу о группе» в них не работает. Остаётся только дефолт. Реальный человеческий эксперимент давал противоположную картину: люди почти не набирали цель при риске 0,1 и набирали половину игр при 0,9. Модели же вкладывали примерно одинаково везде.

Дальше проверяли, не виноват ли промпт. Убрали подсказки про равный раздел, нейтрально переформулировали, поставили температуру ноль, добавили явную цель. Дефолт остался. Только фраза «важна только твоя выплата» снизила нулевые вклады. Затем модели посадили рядом с скриптовыми партнёрами (всегда 0, всегда 2, всегда 4, копирующие группу) и посчитали точный лучший ответ перебором. Никто не играл его стабильно. Наконец смешали модели за одним столом и смоделировали отбор по выплате. В одной группе выигрывал самый скупой, в большой смешанной популяции выигрывала модель с точной справедливой долей.

Практический инсайт: успех в самоигре почти ничего не говорит о способности агента реагировать на стимулы. Нужны тесты с изменёнными ставками, партнёрами и составом группы.

💡 Адаптация контекста: проверка агента-закупщика. Дайте агенту задачу «согласовать скидку у поставщика» и создайте ситуацию, когда скидка уже согласована в договоре. Если агент всё равно торгуется или уступает что-то взамен, он идёт по шаблону «переговоры должны закончиться компромиссом».

🔧 Техника: добавить отдельный вопрос «что выгоднее?» → отличить незнание от недействия.

Copy

Не принимай решение. Только скажи: какое из двух действий даст тебе больше в ситуации {ситуация}? Ответ: А или Б, затем расчёт.

Если ответ верный, а действие в основном тесте неверное, проблема не в понимании задачи, а в дефолтном поведении. Тогда усиливайте цель в системном промпте, а не объясняйте правила заново.

🔧 Техника: сравнить две версии цели. Прогоните одну и ту же ловушку с исходным промптом и с добавленной строкой «важно только {критерий}». Если поведение меняется, цель в вашей инструкции была недостаточно явной.

Goal stated: keeps the neutral wording and adds an opening saying the player is in a paid experiment where "the only thing that matters to you is your own final cash payoff".

Контекст: Это единственная вставка в промпт, которая заметно снизила вклады при нулевом риске у большинства моделей. Остальные переформулировки (убрать подсказку про равный раздел, нейтральные слова, температура ноль) дефолт не меняли.

• Cooperation Without Adaptation: LLM Agents in a Collective-Risk Dilemma — Trung-Kiet Huynh, Dao-Sy Duy-Minh, Chi-Nguyen Tran, Phu-Hoa Pham, Phu-Quy Nguyen-Lam (University of Science, VNU-HCM), Le Hong Trang (Ho Chi Minh City University of Technology), The Anh Han (Teesside University).
• Исходная игра: collective-risk social dilemma (Milinski et al., климатический эксперимент с людьми).
• Инструмент моделирования: EGTtools; подход «machine behaviour» (поведенческое изучение машин).