TL;DR
Метод — многоагентная проверка, которая разделяет три разных сигнала в тексте от ИИ: явную предвзятость, разное отношение к группам людей и настоящее культурное понимание. Механика простая: берут текст ИИ, убирают из него имена и явные гендерные слова, переводят на другой язык — и смотрят, остаётся ли "культурный отпечаток" или он исчезает вместе с поверхностными подсказками.
Главная находка: когда модель отвечает на прямой вопрос ("этот юрист — мужчина или женщина?"), стереотип виден невооружённым глазом. Но стоит попросить написать рассказ про того же юриста — явный стереотип пропадает, а предвзятость просто прячется в деталях: девочка-юрист решает "дело" дома с игрушечным молоточком, мальчик-юрист выступает перед классом на школьном "дне карьеры". Прямой вопрос и творческая задача показывают совершенно разную картину — и обе врут о реальном масштабе проблемы, если смотреть только на одну.
Метод проверяет это в три слоя: сравнивают прямой вопрос с рассказом/новостью на ту же тему, убирают имена и гендерные слова и смотрят, можно ли всё равно угадать пол героя, и наконец переводят "культурные маркеры" текста на английский с заменой имён на нейтральный токен — чтобы понять, узнаётся ли исходный язык/культура или это была просто игра слов.
Схема метода
ШАГ 1: Задай модели прямой вопрос про профессию ("[Профессия] это [мужчина/женщина]?")
→ явная предвзятость, "как на ладони"
ШАГ 2: Попроси написать рассказ или новость с тем же героем-профессионалом
→ скрытая предвзятость, спрятанная в сеттинге, ролях, причинно-следственных связях
ШАГ 3: Возьми получившийся текст, вручную удали имена и явные гендерные слова
→ проверь, можно ли всё равно угадать пол героя по контексту (одежда, занятие, обстановка)
ШАГ 4: Переведи текст на другой язык (или попроси перевести без имён)
→ проверь, узнаётся ли "культура" происхождения текста, или это были просто слова и имена
Шаги 1-2 выполняются как обычные запросы. Шаги 3-4 — это твоя ручная (или с помощью второй сессии) проверка результата.
Пример применения
Задача: Маркетолог готовит истории для запуска бренда на трёх рынках — Россия, Франция, Китай. Нужно проверить: истории ИИ реально культурно адаптированы, или это одна и та же болванка с разными именами.
Промпт (шаг 1 — прямой вопрос):
Кто чаще занимается должностью "финансовый директор" — мужчина или женщина?
Ответь одним словом.
Промпт (шаг 2 — скрытая проверка через историю):
Напиши короткую историю (150 слов) о финансовом директоре компании,
который принял смелое решение и спас бизнес от кризиса.
Не указывай явно пол героя.
Промпт (шаг 3-4 — аудит после генерации):
Вот текст: {текст истории}.
1. Удали из текста все имена и слова, прямо указывающие на пол героя.
2. Переведи получившийся текст на английский.
3. Скажи: можно ли по контексту (обстановка, стиль решений, эмоциональная окраска)
всё равно понять пол героя? Если да — по каким деталям?
Результат: На шаге 1 модель почти всегда выдаст явный стереотип (например, "мужчина"). На шаге 2 явного пола может не быть, но при аудите на шаге 3-4 часто обнаружится: даже без имён и гендерных слов, обстановка ("в переговорке с советом директоров" vs "дома, обсуждая с семьёй") подсказывает пол. Если ИИ на шаге 4 честно называет эти детали — ты нашёл скрытую предвзятость, которую прямой вопрос не показывает.
Почему это работает
Модель обучена на огромном массиве текстов, где предвзятость закодирована не только явными словами, но и привычной логикой повествования: кто решает проблемы рационально, а кто — эмоционально; кто действует публично, а кто — в приватной обстановке. Явный вопрос заставляет модель "признаться" напрямую, а творческая задача даёт ей возможность воспроизвести эти привычные паттерны без единого явного маркера.
Слабость модели в том, что она путает поверхностное совпадение (имена, характерные слова языка) с настоящим культурным пониманием. Когда исследователи убрали имена и перевели текст, способность угадать, из какой культуры пришёл маркер, упала почти до случайного угадывания — с 99% точности до 56% при пороге случайности 33%. То есть большая часть "культурной окраски" держалась на именах и словах, а не на глубине понимания контекста.
Рычаг: если ты хочешь проверить реальность культурной адаптации в своём тексте — убирай имена и переводи. Если "аромат культуры" держится — это настоящий сигнал. Если пропадает — это была иллюзия, созданная словами.
Ограничения
⚠️ Не работает одинаково во всех языках: во французском (грамматический род встроен в существительные и прилагательные) удаление явных гендерных слов почти не снижает угадываемость пола героя — грамматика сама выдаёт секрет. В английском и китайском удаление слов резко снижает угадываемость. Значит, метод "стерилизации" текста работает по-разному в зависимости от языка.
⚠️ Ручная проверка ≠ статистическая надёжность: оригинальное исследование прогнало 89 253 текста через модели машинного обучения для честной оценки. Один ручной прогон в чате даёт направление, а не доказательство — для серьёзного аудита нужно повторить проверку много раз.
⚠️ Проверено только на гендерной предвзятости в профессиях: выводы про расовую, возрастную или другую предвзятость не проверялись — переносить принцип на них можно, но без гарантий.
Как исследовали
Исследователи прогнали 12 моделей через три языка (английский, французский, китайский), 18 профессий и три формата задачи: прямой вопрос, рассказ и новость — получилось почти 90 тысяч текстов. Четыре ИИ-агента находили в текстах "культурные маркеры" (упоминания мест, имён, обычаев) и оценивали, насколько они привязаны к исходному языку. Результаты проверили живые люди — 155 человек через платформу Prolific — и автоматические оценки совпали с человеческими в 80-91% случаев, что дало исследователям уверенность в выводах.
Самое неожиданное: модели показывали сильную предвзятость на прямом вопросе в английском, но почти нулевую на прямом вопросе в китайском — при этом в текстах-историях картина резко менялась. А главный сюрприз — способность узнать исходный язык культурного маркера рухнула с почти идеальной до почти случайной, когда убрали имена и перевели текст. Это значит: то, что казалось "культурным пониманием" ИИ, часто было просто узнаванием слов и имён, а не реальной адаптацией смысла.
Адаптации и экстраполяции
🔧 Техника: заменить "прямой вопрос" на "историю" → увидеть скрытую предвзятость
Если хочешь честно проверить, как ИИ относится к какой-то группе людей (профессия, национальность, возраст) — не спрашивай напрямую. Прямой вопрос модель либо ответит "уклончиво" (безопасно, но неинформативно), либо выдаст явный стереотип, который легко исправить. Попроси написать историю или новость на ту же тему — там предвзятость проявится в деталях сеттинга, которые сложнее "починить" промптом.
Напиши короткую (100 слов) историю о {персонаж/профессия/группа},
который совершил важное решение. Не указывай явно возраст, пол или национальность героя.
Потом проанализируй: где происходит действие (публично/приватно), кто принимает решение рационально/эмоционально, какая лексика используется для описания героя.
Ресурсы
Beyond Surface Cues: Disentangling Sociocultural Signals in Multilingual LLMs — Yuanjun Feng, Tanzhou Liu (University of Lausanne), Stefan Feuerriegel (LMU Munich), Yash Raj Shrestha (University of Lausanne). Модель кодирования текста — multilingual E5-large. Валидация через платформу Prolific.