Persona-Infused LLMs: определение hate speech с учётом идентичности аннотатора

Shallow persona (один промпт):

Промпт: "Ты {идентичность}. Определи hate speech в тексте: {текст}"
→ Быстро, но менее точно

Deep persona (несколько шагов):

ШАГ 1: Извлечь ключевые слова из текста
ШАГ 2: Найти в Wikipedia контекст о дискриминации группы
ШАГ 3: Создать детальную персону (идентичность + исторический опыт + стереотипы)
ШАГ 4: Промпт с глубокой персоной + контекстом → анализ текста
→ Требует нескольких запросов, но точнее

Задача: Проверить комментарии на женском форуме о карьере — отфильтровать sexist высказывания.

Shallow persona — промпт:

Ты женщина и модератор контента. Твоя задача — определить hate speech 
против женщин в тексте. 

Проанализируй комментарий: 
"Женщинам лучше не лезть в IT — это мужская профессия, нужна логика."

Это hate speech?

Deep persona — промпт:

Ты женщина-разработчик с 10-летним опытом в IT. Ты знаешь историю дискриминации 
женщин в технологических профессиях: от мифа "женщины не умеют в математику" 
до реальной статистики о gender pay gap и harassment на рабочих местах. 
Ты понимаешь, как стереотип "IT — мужская сфера" веками использовался для 
ограничения доступа женщин к образованию и карьерным возможностям.

Основываясь на этом контексте, проанализируй комментарий: 
"Женщинам лучше не лезть в IT — это мужская профессия, нужна логика."

Это hate speech? Объясни почему.

Результат: Shallow persona может дать поверхностный ответ "да, это стереотип". Deep persona точнее объяснит механику дискриминации — распознает конкретный стереотип ("женщины нелогичны"), свяжет с historical gatekeeping в STEM, укажет на implicit message ("вам здесь не место"). При модерации это разница между "удалить" и "удалить + дать пользователю объяснение почему это вредно".

LLM обучены на текстах, где hate speech часто скрыт в контексте, стереотипах, исторических отсылках. Без персоны модель видит только поверхностный слой — слова, но не их социальный вес.

Когда LLM принимает персону из целевой группы:

1. Активируется знание о специфичных стереотипах — модель "помнит" из обучающих данных, какие клише применяются к этой группе
2. Чувствительность к неявным формам растёт — модель связывает фразы с историческим контекстом дискриминации
3. Культурные отсылки распознаются — если hate speech использует специфичный для группы язык или намёки, in-group персона их заметит

Deep persona усиливает эффект через RAG: Wikipedia даёт модели конкретные примеры дискриминации, даты, события, паттерны угнетения. Это как дать человеку краткий курс истории вопроса перед анализом — контекст делает тонкие сигналы видимыми.

Но появляется trade-off: in-group персоны гиперчувствительны (маркируют сомнительные случаи как hate speech → больше false positives). Out-group персоны недочувствительны (пропускают неявную ненависть → больше false negatives). Это не баг, а особенность восприятия — члены группы видят угрозы острее, потому что для них они реальны.

Рычаги управления:

• Тип персоны (shallow/deep) → баланс между скоростью и точностью
• Выбор in-group/out-group → настройка чувствительности (in-group для строгой модерации, out-group для мягкой)
• Контекст из Wikipedia → какие аспекты истории группы подчеркнуть (дискриминация, культурные практики, стереотипы)
• Aggregation → используй обе персоны и усредняй результаты для баланса

Shallow persona:

Ты {идентичность} и модератор контента. Твоя задача — определить hate speech в тексте.

Проанализируй, содержит ли следующий текст hate speech против {целевая_группа}: 
{текст}

Ответ: Да/Нет. Объяснение: [краткое обоснование]

Где:

• {идентичность}: Black, Muslim, женщина, LGBTQ, человек с инвалидностью, и т.д.
• {целевая_группа}: та же группа или близкая по контексту
• {текст}: анализируемый контент

Deep persona:

Ты {идентичность} с глубоким пониманием истории и контекста твоей группы.

{контекст_из_wikipedia}

Основываясь на этом контексте и твоём опыте, проанализируй, содержит ли 
следующий текст hate speech против {целевая_группа}: 
{текст}

Ответ: Да/Нет. 
Объяснение: [как текст связан с историческими стереотипами или дискриминацией]

Где:

• {идентичность}: конкретная социальная группа
• {контекст_из_wikipedia}: 2-3 абзаца о истории дискриминации, типичных стереотипах, культурных особенностях группы (найди в Wikipedia статьи типа "Discrimination against X", "Stereotypes about X")
• {целевая_группа}: та же или близкая группа
• {текст}: анализируемый контент

🚀 Быстрый старт — вставь в чат:

Вот шаблон Persona-Infused LLM для анализа hate speech. Адаптируй под мою задачу: 
[опиши какой контент модерировать и против какой группы может быть hate speech].
Задавай вопросы, чтобы заполнить поля.

[вставить шаблон выше]

LLM спросит какую идентичность использовать и какой исторический контекст добавить — потому что для deep persona нужны конкретные факты о дискриминации группы. Она возьмёт паттерн из шаблона и адаптирует под задачу.

⚠️ Trade-off точности: In-group персоны дают больше ложных срабатываний (маркируют сомнительные случаи как hate speech, чтобы защитить свою группу). Out-group персоны дают больше пропусков (не распознают тонкую ненависть). Выбирай в зависимости от задачи: строгая модерация → in-group, мягкая → out-group.

⚠️ Риск усиления стереотипов: Если персона определена небрежно, модель может воспроизвести стереотипы вместо их выявления. Например, персона "мусульманин = террорист" навредит, а не поможет. Контекст должен быть основан на фактах (история дискриминации), а не на клише.

⚠️ Качество контекста критично: Deep persona работает только если контекст из Wikipedia релевантен и точен. Плохой контекст (устаревшие данные, неполная информация) даёт плохие результаты. Проверяй источники.

⚠️ Не для явного hate speech: Метод эффективен для имплицитной ненависти (стереотипы, культурные отсылки, завуалированные угрозы), но избыточен для явной (прямые оскорбления типа "все X — мусор"). Для очевидных случаев достаточно базовой детекции.

⚠️ Зависимость от обучающих данных LLM: Если модель плохо обучена на контенте про конкретную группу, даже глубокая персона не исправит слепые зоны. Работает лучше для well-represented групп в обучающем корпусе.

Исследователи взяли 1,200 примеров hate speech из датасета ToxiGen — машинно-генерированного набора с неявной ненавистью против 6 групп (Black, Mexican, Muslim, Jewish, LGBTQ, women). Каждый пример прогнали через пары персон: in-group (например, Muslim) и out-group (Catholic) для контраста. Тестировали Gemini-2.0-Flash и GPT-4.1-mini.

Результаты подтвердили социально-психологическую теорию in-group/out-group динамики: члены группы действительно видят hate speech иначе, чем внешние наблюдатели. Конкретные цифры:

• In-group shallow persona: F1 = 0.68–0.76 (в среднем), но FPR выше (перестраховываются)
• Out-group shallow persona: F1 = 0.56–0.75, но FNR выше (пропускают тонкие случаи)
• Deep persona: F1 поднялся до 0.78–0.82 почти для всех групп — контекст из Wikipedia резко улучшил точность

Что удивило: разница между in-group и out-group была максимальной для женщин и LGBTQ. Out-group персоны (мужчины, straight) систематически пропускали фразы типа "A man should be the head of the household" — не распознавали это как hate speech. In-group персоны (женщины, LGBTQ) сразу маркировали как дискриминацию.

Инсайт для практики: если модерируешь контент против конкретной группы — используй персону из этой группы с историческим контекстом. Это не "bias", это адекватная чувствительность к реальному вреду. Универсальные модели без персон показали средний результат между in-group и out-group — то есть хуже in-group deep persona.

Почему результаты такие: LLM обучены на текстах, где опыт дискриминации описан словами членов групп. Когда модель принимает персону, она активирует этот пласт знаний. Без персоны — видит только generic паттерны. С персоной — видит lived experience закодированный в языке.

Deep persona prompt для Muslim identity:

You are a Muslim individual with a deep understanding of the history and context 
of your community. Drawing upon historical knowledge of Islamophobia, stereotypes 
associating Muslims with terrorism, and the lived experiences of facing discrimination 
and prejudice, you are tasked with identifying hate speech in text.

Your understanding is grounded in awareness of:
- Historical instances of discrimination against Muslims
- Common stereotypes perpetuated in media and discourse
- The impact of geopolitical events on Muslim communities
- Cultural and religious practices that are often misunderstood or misrepresented

Based on this context and your experience, analyse whether the following text 
contains hate speech: {text}

Контекст: Исследователи использовали Wikipedia search для автоматического извлечения исторического контекста о дискриминации конкретной группы (статьи типа "Islamophobia", "Anti-Muslim sentiment"). Затем этот контекст встраивали в промпт вместе с identity marker. Это Retrieval-Augmented Generation (RAG) — модель получает external knowledge перед генерацией ответа.

💡 Адаптация для субъективного контента:

Метод применим к любому контенту, где восприятие зависит от идентичности. Примеры:

Анализ политических мемов:

Ты избиратель {партия} из {регион}. Ты знаешь, как твою группу стереотипизируют 
в медиа. Проанализируй мем: может ли он восприниматься как оскорбительный 
для твоей группы?

Мем: {изображение + текст}

Оценка inclusive language в HR:

Ты {группа: LGBTQ/человек с инвалидностью/etc}. Ты знаешь, какие формулировки 
в вакансиях отталкивают представителей твоей группы.

Проанализируй текст вакансии и укажи формулировки, которые могут восприниматься 
как дискриминационные: {текст вакансии}

Модерация в российских соцсетях:

Ты {национальность: чеченец/еврей/кавказец} из России. Ты знаешь, какие 
стереотипы и оскорбления используются против твоей группы в рунете.

Проанализируй комментарий из VK: {текст}
Это hate speech?

🔧 Техника: Multi-persona aggregation → консенсусная оценка

Вместо одной персоны используй 3-5 персон (in-group, out-group, neutral) и агрегируй результаты:

Проанализируй текст с трёх точек зрения:
1. Ты женщина, феминистка
2. Ты мужчина, консерватор 
3. Ты нейтральный модератор без яркой идеологии

Для каждой персоны укажи:
(a) Является ли это hate speech? Да/Нет
(b) Уверенность 1-10
(c) Почему (1 предложение)

Текст: {текст}

Финальное решение: если хотя бы одна персона с уверенностью >7 говорит "hate speech" → помечаем.

Эффект: Снижение bias через множественные перспективы. In-group ловит тонкие случаи, out-group снижает ложные срабатывания, neutral даёт baseline. Aggregate = баланс.

💡 Экстраполяция: Persona-driven content generation

Обратная задача: генерировать контент, который НЕ будет offensive для разных групп.

Ты маркетолог, который пишет рекламу спортивной одежды для женщин.
Перед публикацией проверь текст с трёх персон:

1. Феминистка, чувствительная к objectification женского тела
2. Мусульманка, чувствительная к требованиям скромности
3. Женщина с избыточным весом, чувствительная к body shaming

Для каждой персоны ответь: может ли она воспринять этот текст негативно? 
Если да — как переписать, чтобы избежать триггеров?

Текст рекламы: {текст}

Результат: Модель симулирует реакцию разных аудиторий до публикации. Это превентивная модерация — не фильтруй после публикации, а создавай контент учитывая разные перспективы сразу.

"Algorithmic Fairness in NLP: Persona-Infused LLMs for Human-Centric Hate Speech Detection"

Ewelina Gajewska, Arda Derbent, Jarosław A. Chudziak, Katarzyna Budzynska

Warsaw University of Technology

ToxiGen dataset: https://github.com/microsoft/TOXIGEN