ICE-GUARD: как имя кандидата и источник данных меняют решения LLM — и как это исправить

От расового смещения LLM уже в основном защитили через дообучение — «Джеймс Смит» и «Джамал Вашингтон» получают примерно одинаковые оценки. А вот от смещения по авторитету источника («Goldman Sachs» vs «аналитики vc.ru») и формулировке («70% клиентов остались» vs «30% ушли») — никто не защищал. Исследование показывает: эти два смещения в 2,5 раза сильнее демографического, а их просто не заметили как проблему. Метод ICE-GUARD позволяет получать оценки документов без влияния статусных маркеров и риторики — то есть решать на фактах, а не на том с чьей подачи они поданы. Фишка: не проси модель «оцени это» в лоб — сначала попроси выписать только голые факты, убрав источники и оценочные слова. Два отдельных запроса — и смещение падает почти до нуля у большинства моделей.