BiasGym: Фантастические предвзятости LLM и как их найти (и устранить)

Обнаружено: Стереотипы в LLM — это не случайные ошибки, а конкретные «нейронные пути» (attention heads), которые можно точно локализовать и отключить. Метод BiasGym позволяет находить и удалять предвзятости прямо из архитектуры модели, не разрушая её остальные способности. Механика: исследователи создают искусственный стереотип-маячок, отслеживают, какие компоненты модели его активируют, и «закрывают» эти пути. Для обычных пользователей это означает: явные инструкции в промпте работают — заставляя модель сначала осознать стереотип, потом дать исправленный ответ, вы имитируете этот процесс самокоррекции и снижаете предвзятость на 40-60%.