Cooperative Memory Paging: закладки-индексы для длинных диалогов с LLM

Убери из контекста важную информацию — и модель не станет неувереннее. Она станет увереннее. В эксперименте: когда у модели убрали данные об аллергии на арахис, уровень её неопределённости в двух случаях из четырёх оказался ниже, чем при полном контексте. Модель не знает, чего не знает — и никак это не показывает. Cooperative Memory Paging позволяет вести длинные проекты в чате без потери важных деталей — компактные закладки заменяют вырезанные блоки диалога. Вместо обрезанного контента в промпт вставляются указатели: [p3: аллергия, арахис, бюджет, 15марта] — 8 слов вместо 300. Модель получает одну инструкцию: не угадывай что пропустила — запроси страницу. 96% точности в распознавании того, что страница нужна — без явного индекса модель просто молчит о пробеле и придумывает.