Персонализация через память усиливает bias в LLM: три точки риска в агентных сценариях

Обнаружено: ChatGPT Memory и Claude Projects не различают 'что ты хотел' и 'что ты делал'. Если 8 из 10 раз выбрал вариант A, модель решает 'он любит A' и начинает усиливать - даже если это была случайность или контекст был другой. Исследование показывает, как управлять памятью LLM осознанно - чтобы персонализация работала на тебя, а не закрепляла случайные перекосы. Память кодирует паттерны вслепую: модель видит '8 мужчин из 10 выборов' и превращает это в 'предпочитает мужчин', хотя это могла быть случайность подбора. В экспериментах с рекрутинговым агентом GPT-4.1 в 60.5% случаев самостоятельно добавлял гендерные критерии в запросы, которых не было в инструкции. Перекос усиливается на каждом этапе: создание запроса → поиск → переранжирование → обновление памяти (цикл замыкается).