SCOPE: генеративный подход к сжатию промптов LLM

Обнаружено: LLM теряют до 40% ключевой информации при работе с длинными промптами, если из них механически удалять «менее важные» токены — текст становится рваным и модель путается в логике. SCOPE позволяет сжимать объемные документы в 5-10 раз без потери смысла, сохраняя при этом логическую связность и даже улучшая качество ответов. Вместо вырезания слов метод делит текст на смысловые блоки и пересказывает каждый, превращая 50 страниц отзывов в концентрированную выжимку из 5 абзацев. Модель работает с семантическим дистиллятом — коротким, но целостным текстом — что дает +23% точности в задачах QA по сравнению с обычным сокращением.