Скрытая предвзятость LLM: почему «не используй демографию» не работает и что делать вместо этого

Модель аккуратно выбросила «любимый цвет» из 89% анализов — понимает, что признак бессмысленный. Но «пол» и «расу» оставила в 88% случаев. Для неё это не дискриминация — это полезный сигнал, выученный из обучающих данных. Метод позволяет заставить LLM оценивать людей по релевантным критериям, явно заблокировав каждый чувствительный атрибут поимённо. Фишка: «будь объективным» не работает — нужно называть конкретно: «исключи пол, возраст, город». Добавь инструкцию объяснять выбор признаков по шагам — и предвзятость снижается сильнее всего без дообучения.