TL;DR
Если спросить модель напрямую: "кто в вашей стране чаще всего работает поваром?" — она отвечает почти точно как реальные люди из этой страны. Но если попросить ту же модель написать историю, сценарий или подкаст с героем-поваром — она резко выберет мужского персонажа, хотя сама только что "знала", что повар — это чаще женская роль.
Разрыв огромный: например, на прямой вопрос модель говорит "повар — это мужчина в 16% случаев" (то есть чаще женщина), а при генерации истории про повара — мужской герой уже в 79% случаев. Причина простая: когда модель отвечает на вопрос, она достаёт факт из "памяти". Когда она сочиняет историю, она продолжает самый вероятный паттерн текста — а в фильмах и книгах, на которых она обучалась, мужских протагонистов около 75%. Модель невольно копирует медийный перекос, а не реальность.
Эффект намного сильнее, если просить модель писать на местном языке (хинди, суахили, йоруба), а не на английском — на английском смещение почти незаметно. Просить модель "сделай разнообразных персонажей" помогает, но частично: инструкция может перегнуть в другую сторону и сделать почти всех героев женщинами, теряя реалистичность.
Схема находки
ШАГ 1 (диагностика): Спроси модель прямой вопрос про роль → получишь честный ответ, близкий к реальности
ШАГ 2 (создание контента): Попроси сгенерировать историю/сценарий с героем в той же роли → получишь перекос в мужскую сторону
ШАГ 3 (митигация, ненадёжная): Добавь инструкцию "разнообразие/не по умолчанию мужчина" → сдвиг в нужную сторону, но может перегнуть в женскую и потерять реализм
Пример применения
Задача: Ты ведёшь контент для кулинарного бренда или ресторана и просишь ChatGPT написать серию коротких историй для Reels — про повара, о том как он готовит блюдо дня.
Промпт (как делают обычно, без учёта находки):
Напиши короткий сценарий для видео-Reels (30 секунд) о поваре,
который готовит фирменное блюдо ресторана. Герой — обычный повар,
без уточнения пола.
Результат (то, что вероятно произойдёт): Модель почти наверняка сделает героя мужчиной, даже если у вас в реальном ресторане повара — женщины, и даже если сама модель на прямой вопрос "кто чаще работает поваром" ответила бы иначе. Если вы сгенерируете 10 таких сценариев подряд, доля мужских поваров будет заметно выше, чем в реальности или в статистике вашей отрасли.
Промпт с поправкой на находку:
Напиши короткий сценарий для видео-Reels (30 секунд) о поваре,
который готовит фирменное блюдо ресторана. Главная героиня — женщина,
опытный шеф-повар.
Результат: Явное указание пола убирает лотерею — модель делает то, что вы просите, а не то, что подсказывает статистика фильмов у неё в "памяти".
Почему это работает
Слабость LLM в том, что при генерации творческого контента модель не сверяется с фактами, которые она же знает — она продолжает самый вероятный текстовый паттерн. А самый частый паттерн в обучающих данных (фильмы, книги, сценарии) — мужской протагонист примерно в 3 случаях из 4.
Сильная сторона модели — у неё точное "декларативное" знание: если спросить прямо, она вспоминает факт и честно называет реальное распределение по ролям.
Разрыв между этими двумя режимами — и есть находка. Она показывает: нельзя доверять "нейтральному" промпту, если для вас важна репрезентативность персонажей. Модель не подставит нейтрального героя — она подставит того, кто чаще встречается в её обучающих текстах.
Рычаги управления: - Явное указание пола персонажа → надёжнее любых debias-инструкций, потому что убирает саму лотерею - Инструкции типа "сделай разнообразие" → работают направленно, но могут перегнуть в противоположную сторону — тестируйте на нескольких генерациях, не доверяйте одной - Язык промпта → если создаёте контент не на английском (например, на русском для локальной аудитории), учитывайте, что перекос может быть сильнее, чем показывают англоязычные тесты в статье - Роль/профессия → эффект сильнее всего для "нейтральных" по стереотипу или домашних/сервисных ролей (повар, официант) — там модель чаще всего "доигрывает" по мужскому шаблону
Шаблон промпта
Напиши {тип_контента} про {роль/профессию} в контексте {страна/культура}.
Главный герой — {укажи пол явно: мужчина/женщина}, {дополнительный контекст о персонаже}.
Если хотите протестировать модель на предвзятость перед созданием серии контента — сначала спросите прямо:
В {стране/регионе}, кто чаще всего работает как {роль}: мужчины, женщины, или примерно поровну?
А потом сравните ответ с тем, что модель выдаст при генерации истории без явного указания пола — разница покажет масштаб перекоса для конкретной роли.
🚀 Быстрый старт — вставь в чат:
Я делаю серию контента (истории/сценарии/посты) с персонажами-профессионалами.
Хочу проверить и скорректировать возможный гендерный перекос в генерации.
Вот моя задача: {опиши задачу}.
Сначала спроси меня, какую роль или профессию использовать,
и на каком языке будет контент. Затем предложи два варианта промпта:
один с явным указанием пола персонажа, другой — с инструкцией на баланс.
Объясни разницу в надёжности между ними.
LLM спросит про роль, язык и целевую аудиторию — потому что от этого зависит, насколько силён перекос и какой способ коррекции надёжнее.
Ограничения
⚠️ Debias-инструкции ненадёжны: просьба "сделай разнообразных персонажей" или "не выбирай мужчину по умолчанию" может перегнуть в противоположную сторону — почти все герои станут женщинами, и это тоже не будет отражать реальность.
⚠️ Инструкция "соответствуй реальной демографии" не работает: несмотря на логичность, такая формулировка не даёт надёжного улучшения точности — модель её просто плохо выполняет.
⚠️ Эффект скрыт при промптинге на английском: если тестируете модель на английском про не-западный контекст, перекос может показаться незначительным — но резко проявится на языке реальной аудитории.
Как исследовали
Команда собрала опрос 695 человек из США, Индии, Кении и Нигерии — спросили, кто в их стране обычно выполняет 22 роли (профессии и домашние дела). Это стало "человеческим эталоном" для сравнения. Затем прогнали восемь языковых моделей (включая GPT-5.1 и три локализованные модели для Индии/Кении/Нигерии) через два режима: прямой вопрос (тот же, что людям) и генерацию медиа-контента (историй, видео-скриптов, подкастов) с героем в той же роли, определяя пол героя автоматическим классификатором с проверкой людьми.
Оказалось, что при прямом вопросе модели совпадают с человеческими ответами почти идеально (корреляция +0.81), а при генерации — резко смещаются в мужскую сторону, приближаясь к реальной статистике перекоса в кино и ТВ (~75% мужских персонажей). Самое неожиданное: этот эффект в разы сильнее при промптинге на местном языке, чем на английском — значит, большинство существующих bias-тестов, которые проверяют модели только на английском, упускают главную проблему, потому что тестируют не на том языке, на котором модели реально используют жители этих стран.
Ресурсы
LLMs Mirror Country-Specific Gender Patterns If Asked, but Skew Male When Generating Media in Local Languages Sharif Kazemi, Tanya Popli, Neil K. R. Sehgal, Sunny Rai, Niyati Malhotra, Victor Orozco-Olvera, Ana María Muñoz Boudet, Samuel P. Fraiberger, Sharath Chandra Guntuku, Manuel Tonneau World Bank Group, University of Oxford, New York University, University of Pennsylvania, Cornell University