LLM теряется в длинных документах — не потому что глупая, а потому что вы просите её одновременно ориентироваться в структуре и искать конкретный факт.

Исследование представляет систему DocsRay, которая значительно улучшает понимание LLM длинных и сложных документов (с текстом, таблицами и графиками). Вместо того чтобы просто "скармливать" модели весь документ, система сначала с помощью самой же LLM создает для него семантическое "псевдооглавление", разбивая текст на логические разделы и давая им заголовки. Затем, при ответе на вопрос пользователя, модель сначала ищет нужный раздел в этом оглавлении, и только потом детально анализирует текст внутри найденного раздела.

Ключевой результат: Иерархический подход "сначала оглавление, потом детали" резко повышает точность и скорость ответов по сравнению с анализом всего документа целиком.

Суть метода DocsRay для практического применения заключается в переходе от одноклеточного промптинга ("Вот тебе 50 страниц, найди ответ") к двухэтапной стратегии "Разделяй и властвуй".

Представьте, что вы просите человека найти факт в огромной книге без оглавления. Он будет вынужден листать ее страницу за страницей, быстро устанет, потеряет концентрацию и, скорее всего, пропустит нужную информацию. LLM ведет себя так же.

Метод DocsRay предлагает сначала помочь LLM создать "карту" документа.

1. Шаг 1: Создание "Псевдооглавления" (Coarse Search). Вы даете LLM длинный текст и просите не отвечать на вопрос, а сначала выполнить подготовительную работу: проанализировать текст и составить его подробное логическое оглавление или структурированный план. На этом этапе модель выявляет семантические блоки ("Введение", "Методология", "Результаты по продажам в Азии", "Юридические риски" и т.д.), даже если в исходном тексте нет явных заголовков.

2. Шаг 2: Целевой запрос (Fine Search). Теперь, когда у вас (и у модели в контексте) есть эта структура, вы задаете свой конкретный вопрос, явно указывая модели использовать созданное оглавление для поиска ответа. Например: "Опираясь на созданное оглавление, найди в разделе про Азию точные цифры роста выручки за последний квартал".

Этот подход заставляет модель сначала сориентироваться в общей структуре информации, а затем сфокусировать свое "внимание" на небольшом, релевантном фрагменте текста. Это кардинально снижает когнитивную нагрузку на модель, уменьшает вероятность галлюцинаций и повышает точность извлечения данных.

• Прямая применимость: Пользователь может легко реализовать этот метод в любом чате (ChatGPT, Claude и т.д.). Для этого нужно разбить взаимодействие на два промпта:

  1. Промпт 1: "Проанализируй следующий текст и создай для него подробное структурированное оглавление с указанием ключевых тем в каждом разделе." [Вставить длинный текст]
  2. Промпт 2 (в том же чате): "Отлично. Теперь, используя созданное оглавление, ответь на мой вопрос: [Ваш вопрос]". Это прямое и эффективное применение выводов исследования без какого-либо кода.

• Концептуальная ценность: Исследование дает пользователю ключевое понимание: LLM — это не волшебный "черный ящик", а инструмент, который работает лучше, если ему помочь со структурой. Оно наглядно показывает ограничения "плоского" контекста и ценность иерархической обработки информации. Пользователь начинает думать не как проситель, а как менеджер, который ставит задаче четкие, последовательные подзадачи.

• Потенциал для адаптации: Этот принцип универсален. Его можно адаптировать для анализа чего угодно:

  • Длинные email-переписки: "Сначала составь хронологию и выдели ключевых участников и темы в этой переписке. Затем ответь, кто в итоге был ответственен за проект X."
  • Код: "Сначала опиши архитектуру этого кода, выделив основные классы и их функции. Затем объясни, как работает функция calculate_revenue()."
  • Записи встреч: "Сначала создай саммари встречи с повесткой, списком участников и принятыми решениями. Затем уточни, какой дедлайн был установлен для задачи Y."

Представим, что вы маркетолог и вам нужно быстро проанализировать длинный отчет о рыночных трендах, чтобы подготовить презентацию.

Ты — опытный маркетолог-аналитик. Твоя задача — помочь мне быстро разобраться в большом отчете и извлечь из него ключевую информацию для моей презентации.

Мы будем работать в два этапа.

**### Шаг 1: Создание структуры документа**

Проанализируй текст отчета, который я прикрепил ниже. Твоя задача — создать его подробное структурированное оглавление (псевдо-TOC). Оглавление должно отражать логическую структуру документа. Для каждого пункта оглавления кратко укажи (1-2 предложения) его основное содержание.

**### Текст отчета для анализа:**
[СюДА ВСТАВЛЯЕТСЯ ДЛИННЫЙ ТЕКСТ ОТЧЕТА, НАПРИМЕР, 10-15 СТРАНИЦ]

---
*После того как модель сгенерирует оглавление, вы пишете второй промпт в этом же диалоге:*
---

Отлично, у тебя получилось прекрасное оглавление.

**### Шаг 2: Ответ на вопрос на основе структуры**

Теперь, опираясь на созданную тобой структуру отчета, ответь на следующий вопрос:

**"Какие три основных потребительских тренда среди поколения Z были выделены в отчете в контексте использования социальных сетей для покупок? Опиши каждый тренд и приведи конкретные данные или примеры из текста."**

Ищи ответ в первую очередь в разделах, которые касаются демографического анализа и поведения потребителей.

Этот промпт эффективен, потому что он имитирует методологию DocsRay, используя несколько практических механик:

1. Декомпозиция задачи: Вместо одного сложного запроса мы даем модели две простые, последовательные задачи. Это снижает вероятность ошибки и "забывания" части инструкций.
2. Создание "ментальной карты": На Шаге 1 мы заставляем LLM не просто прочитать текст, а активно его обработать и структурировать. Созданное "псевдооглавление" становится для модели надежной "картой" или "индексом" всего документа. Эта структура сохраняется в контексте диалога.
3. Фокусировка внимания: На Шаге 2 мы явно просим модель использовать эту карту (опираясь на созданную тобой структуру). Это направляет механизм внимания LLM на наиболее релевантные части документа, которые она сама же и выделила. Модель не тратит ресурсы на повторный анализ нерелевантных секций (например, про методологию сбора данных или историю компании), а сразу обращается к нужным разделам.
4. Снижение когнитивной нагрузки: Модели гораздо проще найти конкретный факт в логически выделенном блоке на 1-2 страницы, чем в "плоском" тексте на 50 страниц. Это напрямую борется с проблемой "потерянного в середине" (lost in the middle) контекста.

Представим, что вы снимаете квартиру и хотите быстро понять ключевые моменты в длинном договоре аренды.

Ты — опытный юрист-консультант. Твоя задача — помочь мне разобраться в договоре аренды, чтобы я не упустил важные детали.

Мы будем работать в два этапа.

**### Шаг 1: Структурирование договора**

Внимательно изучи текст договора аренды ниже. Твоя задача — составить его четкое и понятное оглавление, разбив его на ключевые разделы (например, "Предмет договора", "Права и обязанности сторон", "Финансовые условия", "Ответственность", "Домашние животные" и т.д.).

**### Текст договора для анализа:**
[СЮДА ВСТАВЛЯЕТСЯ ПОЛНЫЙ ТЕКСТ ЮРИДИЧЕСКОГО ДОГОВОРА]

---
*После того как модель сгенерирует структуру, вы пишете второй промпт:*
---

Спасибо, структура понятна.

**### Шаг 2: Ответ на конкретный вопрос**

Теперь, используя созданное тобой оглавление, найди и объясни простыми словами все пункты, которые касаются следующих моментов:

1.  **Досрочное расторжение:** При каких условиях я могу расторгнуть договор раньше срока и какие штрафы за это предусмотрены?
2.  **Ремонт:** Кто несет ответственность за мелкий (замена лампочки) и крупный (поломка холодильника) ремонт в квартире?

Ссылайся на конкретные пункты договора, которые ты найдешь.

Этот пример работает по тому же принципу иерархической обработки, что и предыдущий, но в юридическом контексте его эффективность особенно заметна:

1. Семантическая кластеризация: Юридические документы часто написаны сложным языком, и связанные по смыслу обязательства могут быть разбросаны по разным разделам. Шаг 1 заставляет LLM сгруппировать все эти разрозненные пункты в логические блоки (например, все про деньги — в "Финансовые условия"). Это создает семантически целостную структуру.
2. Точное наведение: Когда на Шаге 2 задается вопрос про ремонт, модель, благодаря созданной на Шаге 1 "карте", уже знает, что нужно искать информацию в разделах "Права и обязанности арендатора" и "Ответственность сторон", а не в "Предмете договора". Это предотвращает неполные или неточные ответы.
3. Снижение риска галлюцинаций: Работа с юридическими документами требует высочайшей точности. Заставляя модель сначала создать структуру, а потом искать ответ в конкретном, небольшом блоке этой структуры, мы минимизируем риск того, что она "додумает" или неверно интерпретирует условие, смешав его с другим. Модель оперирует фактами из сфокусированного контекста, что повышает надежность ответа.