Memory-Aware Reward Modeling: почему память в LLM не гарантирует ответ, который вам понравится

Парадокс: чем настойчивее просишь модель использовать личный контекст, тем чаще люди выбирают ответ без памяти. Метод позволяет не дать памяти ChatGPT испортить общий вопрос (лекция про подписки превращается в разбор карточек на Wildberries, потому что вы там продаёте). Вместо «персонализируй побольше» ставишь строгий критерий: память включается, только если заметно улучшит ответ на текущий вопрос. Модель получает проверяемое условие вместо размытого «будь релевантным», и перекос в личное уходит. Эффект небольшой, но ответ перестаёт ухудшаться.