RAG снижает предубеждения, а Chain-of-Thought их усиливает

Парадокс: Chain-of-Thought усиливает социальные предубеждения вместо того чтобы их снижать. Корреляция между токсичностью и bias прыгает с 0.14 до 0.59 когда модель объясняет рассуждения пошагово. Метод RAG (поиск по внешним документам перед ответом) позволяет снижать гендерные, расовые, профессиональные и другие стереотипы в ответах LLM – 9 из 10 типов предубеждений падают. Фишка: внешний контекст разбавляет заученные паттерны типа "программист = он", "медсестра = она". Модель опирается на разнообразие источников вместо статистики тренировочных данных. Но добавление CoT переворачивает эффект – пошаговое объяснение артикулирует стереотипные связи вместо того чтобы их размывать.