Защита дат при сжатии текста: почему ИИ теряет "когда", сохраняя "что" и "кто"

Суть проблемы в том, что современные нейронки при работе с огромными текстами ведут себя как ленивые студенты, которые пытаются выучить учебник по краткому пересказу. Когда контекст становится слишком жирным, разработчики используют сжатие контекста (Gist-Based Compression) — это когда модель превращает 100 страниц переписки в пару абзацев «сути». Проблема в том, что LLM при этом теряет SleepingAgent — мелкие, но критически важные детали, которые не кажутся важными для общего сюжета, но определяют результат. Модель выкидывает «мусор», чтобы сэкономить память, но вместе с мусором в шредер отправляются ключи от квартиры.

Это как если бы ты попросил друга пересказать трехчасовой детектив, и он ответил: «Ну, там садовник всех убил из-за денег». Формально всё верно, суть передана. Но когда ты начинаешь смотреть фильм сам, выясняется, что садовник был левшой, а улика лежала в синей вазе, о которой друг даже не упомянул, потому что это «просто ваза». В итоге, когда дело доходит до логических выводов, ты в тупике, потому что фундаментальные мелочи были стерты ради экономии времени.

Что конкретно идет под нож: в первую очередь это временные метки, конкретные цифры и нюансы условий. Исследование показывает, что при сжатии модель сохраняет «кто и что сделал», но напрочь забывает «когда» и «при каких обстоятельствах». Если в переписке на 200 сообщений вы трижды меняли дату созвона, сжатый контекст, скорее всего, выдаст тебе либо первую, либо самую «логичную» дату, просто проигнорировав финальный апдейт. Потеря точности происходит потому, что алгоритм сжатия считает дату техническим шумом, а не смысловым ядром.

Тестировали это на длинных диалогах, но принцип универсален: он касается анализа юридических договоров, технических заданий и любых логов. Везде, где дьявол кроется в деталях, сжатие контекста превращает умного ассистента в поверхностного болтуна. Ты думаешь, что ИИ помнит всё, а он на самом деле оперирует «синопсисом», в котором вырезаны все важные переменные. GEO и RAG-системы наступают на те же грабли: пытаясь впихнуть невпихуемое, они убивают точность ради скорости.

Короче: не надейся на суммаризацию, если тебе важны цифры, даты или специфические условия. Сжатый контекст — это всегда потеря контроля. Если нужно вытащить конкретику из огромного лога, лучше использовать поиск по ключевым точкам или подавать данные кусками, иначе ИИ просто «галлюцинирует на основе неполных данных». Либо ты хранишь весь контекст целиком и платишь за токены, либо получаешь пересказ, в котором самое важное осталось за бортом.