Sex Bias in LLM: модели навешивают пол на нейтральные кейсы и меняют выводы

Парадокс: Один кейс без указания пола — ChatGPT додумал что 70% пациентов женщины, Gemini наоборот — 64% мужчины. Причём для одних и тех же симптомов модели дают разные диагнозы в зависимости от того, какой пол навесили. Двойной запрос (один кейс, два варианта с явным указанием мужчина/женщина) позволяет выявить где модель работает по стереотипам, а не по фактам. Модель додумывает демографию невидимо — даже когда ты не указал пол, она заполняет пробел вероятностным выводом из обучающих данных. 58-78% пар диагнозов расходятся между мужским и женским вариантами одного кейса.