Демографический сдвиг при выравнивании LLM: почему AI не нейтрален при оценке людей

Парадокс: дообучение с обратной связью — то самое, что делает модели «безопасными» — утроило демографические искажения при оценке людей. Не устранило. На 27 моделях подряд. Исследование позволяет выстраивать оценочные задачи так, чтобы LLM не подмешивал демографию в суждения о кандидатах, авторах или персонажах. Фишка: мало данных о квалификации — модель заполняет пробелы стереотипами. Подробность описания напрямую снижает этот дрейф. Убрать демографические маркеры физически надёжнее, чем инструктировать «игнорируй демографию» — явное указание снижает эффект, но не обнуляет.