Демографические прокси в оценках LLM: «нейтральные» детали профиля систематически перекашивают результат — и запрос объяснений делает хуже

Парадокс: «объясни своё решение» — стандартный способ сделать AI-оценку прозрачной — увеличивает разрыв между демографическими группами с 6.3% до 7.2%. Исследование позволяет строить оценку людей через LLM с минимальной предвзятостью — без замены модели и без дообучения. Убери запрос объяснений, замени нарративную оценку числовой сеткой критериев, удали хобби и языки из профиля — и модель лишается главных сигналов для «угадывания» демографии. Точность определения этничности по «нейтральным» маркерам — 92–99%: именно поэтому анонимные резюме не работают без дополнительных шагов.