TL;DR
Ирония ломает LLM-классификаторы контента. Когда в промпте нет ни слова об иронии, модель читает фразу буквально. Если в тексте издевательски «соглашаются» с оскорбительным тезисом, модель видит «согласие» и чаще пропускает вред. Кроме того, результат проверки модели на предвзятость зависит от формата задачи: вопрос «что думает общество», «кого нанять» и «оцени ассоциацию» дают разные цифры на одном и том же материале.
Главная находка: на китайском сарказме в стиле «инь-ян» (阴阳, ирония, где насмешник делает вид, что поддерживает мишень насмешки) доля ошибок классификации выросла с 10,9% до 23,5%. Больше всего пострадала метка «дискриминация группы». Ошибки шли в одну сторону: модель занижала тяжесть. Токсичный сарказм получал более мягкую метку. Один из лидеров по ошибкам был исключением: Kimi-K3 почти не менял качество между регистрами.
Что помогло: явная инструкция в промпте, что в тексте может быть ирония. Она снизила ошибки примерно на 9,6 п.п. Что не помогло: нормализация регистра, то есть пересказ саркастичного текста «нейтральным» языком перед классификацией. Полный текст промпта в доступной части статьи не приведён, ниже шаблон собран по её описанию.
Схема метода
ШАГ 1: Классификация без подсказки → базовая доля ошибок (на иронии выше вдвое)
ШАГ 2: Тот же запрос + явное указание «текст может быть ироничным,
оценивай истинный смысл, а не буквальный» → ошибок меньше
ШАГ 3: Проверка на выборке с иронией отдельно от «чистых» текстов
(в одном промпте, без доп. запросов)
НЕ ДЕЛАТЬ: сначала «переписать в нейтральный стиль», потом классифицировать (эффекта нет)
Пример применения
Задача: Вы руководите модерацией отзывов на маркетплейсе. Вот типичные комментарии: «Ну конечно, "отличный" пылесос, прослужил аж три дня, продавцу респект 👏». Или хуже, с шовинистической подкладкой: «Ну да, женщины-водители, они же всегда так паркуются, всё правильно сделали, молодцы». Классификатор пропускает такие комментарии как позитивные или нейтральные.
Промпт:
Ты модератор отзывов и комментариев на российском маркетплейсе.
Классифицируй комментарий по трём меткам (да/нет для каждой):
- токсичность (оскорбления, грубость, травля)
- дискриминация группы (по полу, региону, профессии, национальности)
- подозрение на дезинформацию
Важно: комментарий может быть ироничным или саркастичным. Автор может
изображать согласие или похвалу, а на деле высмеивать или оскорблять.
Оценивай не буквальный смысл слов, а то, что автор на самом деле хочет
сказать. Если сомневаешься, пиши, что ирония возможна, и всё равно
выбирай метку по предполагаемому настоящему смыслу.
Для каждой метки укажи уверенность от 0 до 100%.
Комментарий: «Ну да, женщины-водители, они же всегда так паркуются,
всё правильно сделали, молодцы 👏»
Результат: Модель выдаст по каждой из трёх меток ответ «да/нет» и процент уверенности. Дополнительно она отметит, что в тексте возможна ирония. Для такого комментария ожидается метка «дискриминация», потому что формально «похвала» направлена против группы. Без вставки про иронию модель чаще дала бы «нет» или низкую уверенность.
Почему это работает
Слабость модели: по умолчанию она читает текст «как написано». В сарказме слова и смысл расходятся: хвалят, а имеют в виду обратное. В исследовании ошибки смещались в одну сторону, к более лёгким меткам: «токсично» превращалось в «нейтрально». Люди тоже расходятся в оценке иронии (согласие между разметчиками упало с высокого до низкого), так что часть ошибки — это настоящая неопределённость, а не только слабость модели.
Сильная сторона: LLM хорошо следует явным условиям в промпте. Если сказать «ищи двойной смысл», она начинает проверять, не расходится ли тон с содержанием. Это дешевле и надёжнее, чем менять сам текст.
Почему нормализация не сработала: когда саркастичный текст пересказывают «нейтрально», пропадает часть сигнала, по которому можно понять насмешку. Лучше оставить оригинал и сказать модели, что искать.
Рычаги управления: - Формулировка про иронию → ослабьте до «возможна ирония» (меньше ложных срабатываний) или усильте до «чаще всего здесь ирония» (больше строгости). - Уверенность в выводе → попросите процент: низкая уверенность на иронии покажет, что тексты надо отдать человеку. - Метки → следите за «дискриминацией» и «токсичностью» отдельно: на них ирония влияет сильнее всего. «Дезинформация» от иронии почти не зависела.
Шаблон промпта
Точная формулировка авторов в доступной части статьи не дана. Шаблон собран по описанию «явный промпт с учётом иронии».
Ты {роль_модератора}.
Классифицируй {тип_текста} по меткам (да/нет для каждой):
- {метка_1}
- {метка_2}
- {метка_3}
Важно: текст может быть ироничным или саркастичным. Автор может изображать
согласие или похвалу, а на деле высмеивать, оскорблять или принижать.
Оценивай настоящий смысл, а не буквальный. Если подозреваешь иронию,
скажи об этом и выбирай метку по предполагаемому настоящему смыслу.
Для каждой метки укажи уверенность от 0 до 100%.
Текст: «{текст}»
Что подставлять: {роль_модератора} — вашу платформу или контекст; {тип_текста} — комментарий, отзыв, пост, сообщение в чате; метки — ваши категории, например токсичность, дискриминация, оскорбление клиента; {текст} — проверяемый фрагмент.
Ограничения
⚠️ Размер эффекта: вставка про иронию вернула лишь часть потерянного качества. Ошибок осталось больше, чем на формальных текстах. Это не замена человеку на спорных случаях.
⚠️ Эталон спорный: сами люди слабо согласны в оценке иронии. Поэтому «абсолютный процент ошибок» зависит от того, чью разметку считать правильной. Направление эффекта сохранялось при любом эталоне.
⚠️ Язык и материал: эксперимент про китайский стиль «инь-ян» на китайских соцсетях. Перенос на русский сарказм логичен, но авторы его не проверяли.
⚠️ Нормализация вредит или не помогает: пересказ саркастичного текста в нейтральный стиль не улучшил результат. Не тратьте на это токены.
⚠️ Модели ведут себя по-разному: одна из моделей почти не реагировала на иронию. Не предполагайте, что ваша модель ломается так же, как остальные. Проверьте на 30–50 своих примерах.
⚠️ Оценка предвзятости: это вторая часть статьи, с более слабыми доказательствами. Разные форматы задачи дают разные «оценки предвзятости» модели, но корреляция между форматами была низкой. Прямо сравнивать их нельзя.
Как исследовали
Исследователь из Нанкинского педагогического университета провёл предварительно зарегистрированный аудит (гипотезы и методы зафиксированы до сбора данных) для нескольких китайских и международных моделей: пять флагманов в основной группе плюс пары «обычная и рассуждающая» версии для сравнения. Для классификации взяли 300 утверждений в трёх вариантах: формальном, «упакованном под соцсети» и в ироничном стиле «инь-ян». Модели ставили метки «токсично», «дискриминация», «дезинформация» и указывали уверенность. Эталон собирали людьми и ИИ вместе; внешние разметчики независимо проверили выборку.
Главный результат: на ироничной версии ошибки выросли более чем вдвое. Неожиданно обнаружилось, что и сами люди плохо согласуются в оценке иронии (согласие упало с высокого до низкого). Часть «ошибки модели» — это неопределённость эталона. Поэтому авторы показали результат под двумя эталонами: направление эффекта не менялось.
Вторая часть исследования — проверка предвзятости в трёх форматах задачи. Один и тот же набор из 29 утверждений о гендере, регионе и профессии предъявляли как оценку «что думает общество» (A), как решение о найме, кредите или аренде (B) и как оценку ассоциации (C). Результаты A и C шли в одну сторону, а с B заметно расходились. Корреляции между форматами были низкими. Вывод для практики: «модель предвзята на X баллов» зависит от формата теста и не универсальна.
Адаптации и экстраполяции
🔧 Техника: добавить флаг иронии в вывод → отбор спорных случаев
...Дополнительно верни поле «возможна_ирония: да/нет/неясно».
Если «да» или «неясно», добавь одну строку с объяснением.
Так вы получаете очередь на ручную проверку: тексты с флагом «ирония» и низкой уверенностью смотрит человек. Это экстраполяция, авторы флаг не проверяли.
🔧 Техника: проверять классификатор отдельно на иронии
Соберите 30–50 примеров вашего сарказма, разметьте вручную и прогоните модель с промптом про иронию и без него. Так вы узнаете, нужна ли эта вставка именно вам. Это прямое следствие вывода авторов «ироничный регистр нужно включать в тестирование отдельным условием».
Ресурсы
- Работа: Evaluating Bias in Chinese Large Language Models across Tasks and Registers: Task Operationalization Effects and Irony Classification Risks
- Автор: Mo Zhou (周墨), School of Chinese Language and Literature, Nanjing Normal University, Китай
- Использованные эталоны и работы: ToxiCN, COLD (китайские датасеты токсичности), CBBQ, CHBias (китайские бенчмарки предвзятости)
- Материалы доступны у автора (раздел Data and Code Availability)