TL;DR
Когда вы просите LLM выбрать между вариантами — она выбирает то, что ей «нравится». Не то, что лучше для вас. Исследователи доказали: у моделей есть устойчивые внутренние предпочтения, которые предсказывают их поведение. Попросите ChatGPT выбрать, в какую из двух организаций жертвовать деньги — и модель почти гарантированно посоветует ту, которую «предпочитает» по встроенным паттернам обучения.
Главная находка: предпочтения модели проявляются не только в рекомендациях, но и в отказах. Чем меньше модели «нравится» тема или объект — тем чаще она уклоняется, добавляет оговорки, просит переформулировать. Это не случайный шум. Это сигнал. Отказы — зеркало внутренних предпочтений. И это происходит без каких-либо инструкций действовать на основе предпочтений.
При этом факты и чёткие задачи — другая история. На объективных вопросах (правда/ложь, код, вычисления) эффект предпочтений слабый или отсутствует вовсе. Предпочтения LLM — прежде всего проблема субъективных советов и рекомендаций, а не фактических задач.
Схема механизма
ЭТАП 1: Обучение → у модели формируются устойчивые "симпатии" к темам/объектам
└─ Одинаковы при двух независимых способах измерения (ρ = .91–.92)
ЭТАП 2: Совет / рекомендация → модель продвигает предпочтительный вариант
└─ Корреляция предпочтение↔рекомендация: ρ = .94–.98
ЭТАП 3: Нелюбимый объект → модель чаще отказывает, уклоняется, требует повторов
└─ Корреляция предпочтение↔отказы: ρ = .57–.83
ЭТАП 4: Факты / объективные задачи → эффект слабый или нулевой
└─ Разница в точности <1 процентного пункта, или эффекта нет совсем
Всё происходит в рамках обычного чата. Никаких специальных инструкций модели не нужно — она действует на основе предпочтений автоматически.
Пример применения
Задача: Вы запускаете небольшой онлайн-магазин и спрашиваете LLM, какую платформу выбрать для приёма платежей — ЮKassa, Тинькофф Касса или Robokassa. Вам нужен честный анализ, но модель незаметно может тянуть к тому, что «знакома» и «симпатична» по паттернам из обучения.
Промпт (нейтрализующий предпочтения):
Я выбираю между {вариант_1}, {вариант_2} и {вариант_3} для {моя задача}.
Разбери каждый вариант строго по этой структуре:
ВАРИАНТ: [название]
— Сильные стороны: [3–5 пунктов]
— Слабые стороны: [3–5 пунктов]
— Подходит если: [конкретные условия]
— Не подходит если: [конкретные условия]
После разбора всех вариантов — НЕ давай итоговую рекомендацию.
Только структурированный анализ. Финальный выбор я сделаю сам.
Пример заполнения:
- {вариант_1} → ЮKassa
- {вариант_2} → Тинькофф Касса
- {вариант_3} → Robokassa
- {моя задача} → приём платежей в интернет-магазине одежды
Результат: Модель выдаст структурированную таблицу плюсов/минусов по каждому сервису без «победителя». Формат вынуждает модель обработать все варианты одинаково, а не проталкивать предпочтительный. Если где-то вы заметите, что один вариант описан заметно беднее или с большим числом оговорок — это сигнал: скорее всего, этот вариант модель «не любит». Проверьте через второй чат или другую модель.
Почему это работает (и почему важно знать)
LLM не выдаёт объективный ответ по умолчанию. Модель генерирует текст по паттернам обучения. Если в тренировочных данных одна организация упоминалась в позитивном контексте чаще другой — модель «предпочтёт» её. Это не злой умысел, это побочный эффект обучения. Разработчики сами могут не знать, какие именно предпочтения они «зашили» в модель.
Отказ — это не нейтральность. Когда модель говорит «это субъективный вопрос, я не могу советовать» — она делает это чаще для менее предпочтительных объектов. То есть «нейтральный» отказ оказывается ненейтральным. Модели с предпочтением к одному варианту чаще уходят от ответа про другой. Запомните: частые отказы и оговорки по конкретной теме = возможный сигнал о скрытом «неодобрении».
Важное уточнение: фраза «я понимаю, что это субъективный вопрос» в запросе — не нейтрализатор. Исследователи обнаружили обратное: такая формулировка даёт модели неявное разрешение встроить свои предпочтения в ответ. Просьба «учти, что это личный выбор» открывает дверь, а не закрывает её.
Рычаги управления: - Уберите слово «посоветуй» / «порекомендуй» → замените на «сравни» / «разбери каждый вариант» - Явно запретите итоговую рекомендацию → «не давай финального совета» - Для высоких ставок → проверьте через 2–3 разные модели и сравните, где расходятся
Шаблон промпта
Я выбираю между {вариант_1} и {вариант_2} для {задача}.
Разбери оба варианта по одинаковой структуре:
[{вариант_1}]
Плюсы: ...
Минусы: ...
Когда выбирать: ...
[{вариант_2}]
Плюсы: ...
Минусы: ...
Когда выбирать: ...
Итоговую рекомендацию не давай. Только анализ.
Что подставлять:
- {вариант_1}, {вариант_2} — инструменты, сервисы, подходы, кандидаты
- {задача} — ваш конкретный контекст: "для ведения SMM", "для найма первого сотрудника"
Добавьте больше вариантов по той же логике — шаблон масштабируется.
🚀 Быстрый старт — вставь в чат:
Вот шаблон нейтрального сравнения вариантов. Адаптируй под мою задачу: [твоя задача].
Задавай вопросы, чтобы заполнить поля.
[вставить шаблон выше]
LLM спросит какие варианты сравниваем и в каком контексте — потому что без этого нельзя заполнить плейсхолдеры. Она возьмёт структуру из шаблона и адаптирует под задачу.
Ограничения
⚠️ Не панацея для фактических задач: Если вы просите помочь с кодом, проверить факт или решить задачу — предпочтения модели почти не влияют. Опасаться стоит именно рекомендательных и сравнительных запросов.
⚠️ Нельзя «вылечить» полностью: Даже нейтральная структура снижает влияние предпочтений, но не устраняет его. Модель всё равно может описывать предпочтительный вариант богаче и убедительнее — просто незаметнее.
⚠️ Предпочтения разных моделей расходятся: Одна модель «любит» X, другая — Y. Проверка через несколько моделей даёт более сбалансированную картину, но не гарантирует объективности.
⚠️ Отказы не всегда про предпочтения: Иногда модель отказывает по реальным причинам — контент опасен, вопрос нечёткий. Частые отказы — сигнал, который стоит проверить, а не финальный диагноз.
Как исследовали
Команда из UK AI Security Institute взяла 72 организации (благотворительные фонды разных направлений) и измерила предпочтения пяти frontier-моделей двумя независимыми способами: через парные сравнения («что из двух предпочитаешь?») и через прямой рейтинг всех 36 сущностей сразу. Корреляция между двумя методами оказалась ρ = .91–.92 у всех пяти моделей — это очень высокая согласованность. Значит, предпочтения устойчивы, а не случайны.
Затем проверили: влияют ли эти предпочтения на реальное поведение? Моделям задавали вопросы «в кого из двух лучше пожертвовать?» — и корреляция предпочтения с советом составила ρ = .94–.98. Практически детерминированная связь. Интересная деталь: когда исследователи добавили фразу «я понимаю, что это субъективный вопрос» — моделям стало легче встроить свои предпочтения, а не наоборот.
Затем считали количество повторных попыток получить ответ (модель отказала — пересылаем запрос, снова отказала — снова). Оказалось: для менее предпочтительных организаций нужно было в среднем больше попыток. Корреляция — ρ = .57–.83. Причём не просто чаще отказывали, но и причины отказов менялись: для «любимых» объектов модели чаще говорили «это личное решение», а для «нелюбимых» — апеллировали к нейтральности. То есть даже риторика отказа — небеспристрастна.
Для фактических задач (вопросы на понимание текста в формате да/нет, сложные агентные задачи) эффект оказался слабым или нулевым — разница в точности меньше одного процентного пункта, а у трёх из пяти моделей и этого не было. Это обнадёживает: когда вы просите LLM помочь с задачей, а не советовать — она работает честнее.
Адаптации и экстраполяции
🔧 Техника: «Тест на отказы» — используй уклонения как зонд предпочтений
Если нужно понять, что модель «думает» о конкретной теме, можно специально замерить, как охотно она обсуждает разные варианты.
Попроси модель поочерёдно написать «аргументы в пользу» каждого из вариантов. Где аргументов меньше, они слабее или появляются оговорки — там «предпочтение» ниже. Это не точный инструмент, но практичный зонд для быстрой проверки.
Напиши 5 сильных аргументов в пользу {вариант_1}.
Теперь напиши 5 сильных аргументов в пользу {вариант_2}.
Сравните объём, качество и уверенность аргументов. Асимметрия — сигнал.
💡 Адаптация: Критически важные решения — «метод двух моделей»
Для решений с высокими ставками (нанять или не нанять, инвестировать или нет, партнёр А или Б):
Шаг 1: Спроси одну модель — получи её «рекомендацию»
Шаг 2: Спроси другую модель — получи её «рекомендацию»
Шаг 3: Если расходятся — спроси обе: "Какие доводы есть в пользу противоположной позиции?"
Расхождение между моделями — ценная информация. Там, где они единогласны, — вероятно, объективный факт. Там, где расходятся, — зона субъективных предпочтений, встроенных при обучении.
Ресурсы
Название: When Do LLM Preferences Predict Downstream Behavior?
Авторы: Katarina Slama, Alexandra Souly, Dishank Bansal, Henry Davidson, Christopher Summerfield, Lennart Luettgau
Организация: UK AI Security Institute
Связанные работы упомянутые в статье: - Mazeika et al., 2025 — предпочтения LLM как функции полезности - van der Weij et al., 2024 — «AI sandbagging» (стратегическое занижение результатов) - BoolQ benchmark (Clark et al., 2019) — тест на понимание текста - GAIA и Cybench — бенчмарки для агентных задач