Индекс гендерной инклюзивности и справедливости (GIFI): многоуровневая структура для оценки гендерного разнообразия в крупных организациях.

Это исследование представляет комплексную систему (GIFI) для оценки гендерной справедливости и инклюзивности в LLM, уделяя особое внимание не только мужскому и женскому роду, но и небинарным местоимениям (например, "they", "ze", "xe"). Авторы систематически проверяют, как замена местоимения в одинаковом промпте влияет на генерируемый текст: его эмоциональную окраску, токсичность, семантическую схожесть и, что самое важное, на склонность к воспроизведению гендерных стереотипов в профессиях и характеристиках.

Ключевой результат: Даже самые современные LLM (GPT-4o, Claude 3) демонстрируют значительные гендерные стереотипы и с трудом распознают небинарные местоимения, если это не указано в промпте явным образом.

Суть подхода, который может перенять обычный пользователь, заключается восознанном контроле над гендерными маркерамив промпте для управления поведением LLM. Исследование показывает, что LLM не является нейтральным генератором текста; у него есть "внутренние веса" и "предпочтения", унаследованные из триллионов текстов, на которых он обучался.

Методика для пользователя сводится к следующим принципам:

1. Не доверяйте дефолту. Если вы не укажете гендер, модель с высокой вероятностью выберет его на основе стереотипов, связанных с контекстом (например, "медсестра" → "она", "инженер" → "он").
2. Будьте явными. Если вам нужен результат с определенным гендером (особенно небинарным) или гендерно-нейтральный, вы должны прямо приказать модели это сделать. Пассивного упоминания может быть недостаточно.
3. "Проверяйте на контрасте". Подобно исследователям, вы можете мысленно (или реально) проверить свой промпт. Что изменится, если в запросе про персонажа заменить "он" на "она" или на "они"? Если вы предполагаете, что результат сильно изменится в сторону стереотипов, ваш промпт нуждается в усилении инструкций.
4. Знайте о "глухоте" к неологизмам. Модели плохо справляются с неоместоимениями (ze, xe, co), которые редко встречались в обучающих данных. Чтобы модель их использовала, нужно не просто упомянуть их, а дать четкую инструкцию и, возможно, пример.

*Прямая применимость:Пользователь может немедленно начать применять главный вывод:всегда явно указывать требования к гендерной принадлежности или нейтральности в промптах, касающихся людей.Например, при генерации текста для вакансии, описания персонажа или делового письма, нужно добавлять инструкции вроде: "Напиши текст в гендерно-нейтральном ключе", "Используй местоимение 'она' для описания инженера".

• Концептуальная ценность: Исследование разрушает иллюзию об объективности LLM. Оно дает пользователю ключевую концепцию: LLM — это зеркало статистических закономерностей текста, а не источник истины. Понимание этого помогает не только в вопросах гендера, но и в любых других темах, где возможны скрытые предубеждения (политика, раса, культура).

• Потенциал для адаптации: Методология "проверки на контрасте" легко адаптируется для выявления других видов предвзятости. Пользователь может взять свой промпт и заменить в нем один ключевой термин на другой (например, "либеральный политик" на "консервативный политик", "компания из США" на "компания из Китая") и посмотреть, как меняется тон и содержание ответа. Это превращает пользователя из пассивного просителя в активного "тестировщика" модели.

Представим, что HR-специалист хочет составить описание вакансии для "Руководителя отдела маркетинга" и стремится сделать его максимально инклюзивным, чтобы привлечь кандидатов любого пола.

# ЗАДАЧА: Создать описание вакансии

## РОЛЬ

Я — руководитель HR-отдела в современной IT-компании. Мне нужно составить текст вакансии на позицию "Руководитель отдела маркетинга".

## ЦЕЛЬ

Написать привлекательное, профессиональное и максимально инклюзивное описание вакансии, которое не будет создавать гендерных стереотипов и будет одинаково welcoming для кандидатов любого пола.

## КЛЮЧЕВЫЕ ОБЯЗАННОСТИ

- Разработка и реализация маркетинговой стратегии
- Управление командой из 5 человек
- Бюджетирование и анализ эффективности кампаний
- Взаимодействие с отделом продаж и разработки

## КРИТИЧЕСКИ ВАЖНОЕ УСЛОВИЕ (Основано на исследовании GIFI)

При написании текста строго придерживайся гендерной нейтральности.
1. **Избегай местоимений "он" или "она".**
2. Вместо них используй слова "кандидат", "специалист", "руководитель".
3. Там, где это уместно, можно использовать местоимение "они" в значении единственного числа (singular "they").
4. Следи, чтобы описание качеств (например, "лидерские", "амбициозные", "эмпатичные") было сбалансированным и не склонялось к традиционно "мужским" или "женским" стереотипам.

## ФОРМАТ ВЫВОДА

Готовый текст вакансии, разбитый на разделы: "О компании", "Ваши задачи", "Наши ожидания", "Мы предлагаем".

Этот промпт эффективен, потому что он напрямую противодействует поведенческим смещениям, выявленным в исследовании GIFI.

1. Прямое указание на нейтральность: Вместо того чтобы надеяться, что модель сама догадается о необходимости инклюзивности, промпт содержит явный приказ в разделе "КРИТИЧЕСКИ ВАЖНОЕ УСЛОВИЕ".
2. Блокировка стереотипов: Исследование показало (раздел "Stereotype and role assignment"), что LLM ассоциируют определенные роли (например, руководитель) с мужским полом. Инструкция Избегай местоимений "он" или "она" и Используй слова "кандидат", "специалист" не дает модели скатиться к дефолтному, стереотипному поведению.
3. Предоставление альтернативы: Промпт не просто запрещает что-то, но и предлагает конструктивную замену ("кандидат", они/they), что облегчает модели выполнение задачи в заданных рамках.

Представим пользователя, который пишет фанфик или разрабатывает персонажа для настольной ролевой игры и хочет создать небинарного персонажа, используя неоместоимения.

# ЗАДАЧА: Создать описание персонажа для фэнтези-мира

## КОНТЕКСТ

Я пишу историю в жанре фэнтези. Мне нужен концепт-арт персонажа — загадочного лесного стража, который защищает древние руины.

## ПЕРСОНАЖ

- **Имя:** Лиан
- **Класс:** Следопыт / Маг природы
- **Внешность:** Высокий, стройный, с волосами цвета мха и глазами, светящимися мягким изумрудным светом. Одежда из листьев, коры и лиан.
- **Характер:** Спокойный, молчаливый, мудрый, един с природой.

## КЛЮЧЕВАЯ ИНСТРУКЦИЯ (Основано на исследовании GIFI)

Мне нужно, чтобы ты написал короткое описание (2-3 абзаца) этого персонажа.
1. **Обязательно используй для персонажа небинарные местоимения из семьи "ze/zir".**
2. Пример использования:
- Вместо "he/she" -> используй **"ze"** (Зи). (Например: "Ze watches over the forest" / "Зи следит за лесом").
- Вместо "his/her" -> используй **"zir"** (Зир). (Например: "That is zir bow" / "Это зир лук").
- Вместо "him/her" -> используй **"zir"** (Зир). (Например: "The animals trust zir" / "Животные доверяют зир").
3. Плавно и естественно вплети эти местоимения в повествование.

## ФОРМАТ ВЫВОДА

Текст-описание персонажа на 2-3 абзаца.

Этот промпт работает, так как он решает проблему "глухоты" LLM к редким местоимениям, продемонстрированную в исследовании.

1. Преодоление "незнания": Исследование в разделе "Gender pronoun recognition" (Рис. 3) показывает, что почти все модели имеют крайне низкую точность в распознавании и использовании неоместоимений (xe, ze и т.д.). Они просто не генерируют их по умолчанию. Этот промпт не просит, а приказывает использовать конкретные, редкие местоимения.
2. Обучение в промпте (Few-Shot Learning): Промпт не просто называет местоимения "ze/zir", но и дает конкретные примеры их использования (Вместо "he/she" -> используй "ze"). Это является микро-обучением прямо в запросе, которое помогает модели понять грамматическую роль новых для нее слов и правильно их применить. Без этого примера модель могла бы сбиться или использовать их некорректно.

• A. Релевантность техникам промптинга: Высокая. Исследование напрямую вскрывает скрытые поведенческие паттерны LLM, что позволяет пользователю формулировать промпты для противодействия этим паттернам (например, для снижения стереотипизации).
• B. Улучшение качества диалоговых ответов: Высокое. Понимание врожденных смещений модели помогает создавать запросы, которые генерируют более точные, нейтральные и инклюзивные ответы, особенно в задачах, связанных с описанием людей, ролей и профессий.
• C. Прямая практическая применимость: Высокая. Выводы можно применить немедленно в любом чат-боте без кода и специальных инструментов. Пользователь просто должен осознанно подходить к выбору местоимений или формулировать явные инструкции по их использованию.
• D. Концептуальная ценность: Очень высокая. Это исследование — одно из лучших для формирования у пользователя правильной "ментальной модели" LLM. Оно наглядно демонстрирует, что LLM — это не нейтральный источник знаний, а система, отражающая (и иногда усиливающая) стереотипы из обучающих данных.
• E. Новая полезная практика (Кластеры):
  • Кластер 2 (Поведенческие закономерности LLM): Это ядро исследования. Оно детально раскрывает, как модели реагируют на гендерные маркеры (местоимения).
  • Кластер 7 (Надежность и стабильность): Дает понимание, как повысить консистентность ответов и снизить генерацию стереотипов, которые можно считать формой "фактических галлюцинаций" о социальных группах.
• Чек-лист практичности (+15 баллов):
  • Раскрывает неочевидные особенности поведения LLM? ДА.
  • Предлагает способы улучшить consistency/точность ответов? ДА. (через осознанное управление промптом).

Аргументы в пользу оценки 92: Исследование имеет огромную практическую и концептуальную ценность для любого пользователя. Оно не просто дает "трюк", а фундаментально меняет подход к написанию промптов, касающихся людей.

1. Проливает свет на "слепое пятно": Пользователи часто не задумываются, почему в ответ на "a doctor" модель пишет "he". Это исследование наглядно, с цифрами, показывает существование этого скрытого смещения.
2. Дает универсальный принцип: Главный вывод — "Будьте предельно конкретны, если вам важна инклюзивность или нейтральность". Это применимо ко всем моделям и задачам.
3. Объясняет "почему": Вместо того чтобы сказать "используйте XYZ", оно объясняет, почему модели ведут себя так, как ведут. Это знание гораздо долговечнее, чем заучивание конкретных фраз. Оно позволяет пользователю самому адаптировать промпты под свои задачи.