TL;DR
InsightReplay — это техника, которая периодически извлекает ключевые промежуточные выводы из длинного рассуждения и вставляет их обратно прямо перед следующим шагом, удерживая критически важную информацию в зоне «активного внимания» модели.
У LLM есть структурная слабость: чем длиннее цепочка рассуждений, тем слабее модель «видит» то, что написала в начале. Если важный вывод сделан на 3-м шаге из 15 — к шагу 12 модель фактически о нём «забывает». Не метафорически, а буквально: математически измеренное внимание к ранним токенам снижается по мере роста дистанции. Точность сначала растёт с длиной рассуждения, достигает пика — и потом падает, даже если модель «думает» дольше.
InsightReplay разрывает этот цикл деградации. После каждого блока рассуждений модель формулирует компактный список ключевых выводов (5–7 пунктов) и «переигрывает» их в начале следующего блока — так они всегда оказываются рядом с текущей позицией генерации. Цикл повторяется 3 раза. Результат: точность продолжает расти даже там, где стандартный CoT уже деградирует.
Схема метода
Каждый шаг — отдельный запрос к модели
ШАГ 0: Инициализация
→ Задать вопрос/задачу как «якорный инсайт»
РАУНД T (повторить 3 раза):
ЗАПРОС 1: Рассуждение
Вход: [задача] + [предыдущие инсайты I₀...Iₜ₋₁] + [история рассуждений]
→ Модель генерирует блок рассуждений Rₜ
ЗАПРОС 2: Извлечение инсайтов
Вход: [Rₜ] + [предыдущие инсайты]
→ Модель формулирует обновлённый список ключевых выводов Iₜ
ФИНАЛ:
ЗАПРОС 3: Итоговый ответ
Вход: [полная история] + [последние инсайты]
→ Финальный ответ
Все 6–7 запросов выполняются в одном чате подряд. Можно делать вручную.
Пример применения
Задача: Алексей — основатель B2B SaaS-стартапа, готовит питч для фонда. Нужно разобрать, почему конкурент (Мое дело) вырос, а его продукт — нет, чтобы найти точку дифференциации.
Промпт — Раунд 1, блок рассуждений:
Задача — понять, за счёт чего «Моё дело» удержало позиции в сегменте
малого бизнеса, несмотря на появление десятков конкурентов.
Давай рассуждай шаг за шагом: рынок, бизнес-модель, продуктовые решения,
каналы привлечения. Не торопись к выводу — мне нужен ход рассуждений,
не резюме.
Промпт — Раунд 1, извлечение инсайтов:
На основе рассуждений выше сформулируй 5–7 ключевых выводов,
которые мы уже установили как факты. Коротко, без воды.
Формат: нумерованный список.
Промпт — Раунд 2, блок рассуждений:
Ключевые выводы из первого раунда:
[вставить список из предыдущего ответа]
Теперь идём глубже: почему именно интеграция с банками стала защитным рвом?
Как это влияет на unit-экономику? Что это значит для нашей стратегии входа?
Рассуждай развёрнуто.
Промпт — Раунд 2, извлечение инсайтов:
Обнови список ключевых выводов с учётом второго раунда рассуждений.
Если первоначальные выводы уточнились или изменились — отрази это.
5–7 пунктов, нумерованный список.
(повторить ещё раз для третьего раунда)
Финальный промпт:
Ключевые выводы после трёх раундов:
[вставить финальный список]
На основе всего хода рассуждений и этих выводов:
Какую точку дифференциации мне стоит занять?
Сформулируй конкретный тезис для слайда «Почему мы» в питч-деке.
Результат: Модель в финальном ответе будет опираться на накопленные выводы всех трёх раундов — они буквально вставлены в последний промпт. Итог: конкретный, обоснованный тезис дифференциации со следами логики, а не общие слова. Без InsightReplay к финалу модель рискует «потерять» детали из первого раунда и дать расплывчатый ответ.
Почему это работает
Слабость LLM: Внимание модели — не однородное. Токены, написанные давно, получают меньше «веса» при генерации следующего токена. Это не баг кода, а математическая особенность архитектуры: чем дальше токен от текущей позиции, тем слабее его влияние. Исследователи измерили это напрямую: при увеличении дистанции на 40% внимание к критическим выводам падало на 3–19% в зависимости от модели.
Сильная сторона LLM: Модели отлично работают с тем, что находится прямо перед ними. Если важный вывод стоит в последних 1000 токенах — он влияет на ответ сильно. Если в позапрошлом сообщении из длинного диалога — слабо.
Как InsightReplay использует это: Вместо того чтобы надеяться, что модель «помнит» вывод из 5 хода назад — мы физически переносим его в текущий контекст. Ключевые инсайты не теряются где-то в истории — они всегда стоят прямо перед следующим шагом рассуждений. Метод не улучшает память модели — он обходит её ограничения.
Рычаги управления: - Количество раундов (1, 3, 5): Для простых задач — 1 раунд. Для сложных многошаговых — 3. Больше раундов = больше токенов, но выше точность на трудных задачах - Количество инсайтов (5–7): Меньше — компактнее, но риск потерять важное. Больше — полнее, но «размывается» главное - Формат инсайтов: Попроси нумеровать и ранжировать по важности — тогда при следующем раунде акцент на топ-3 пунктах
Шаблон промпта
=== РАУНД {номер_раунда} — РАССУЖДЕНИЕ ===
{Если раунд > 1: "Ключевые выводы предыдущих раундов:\n{список_инсайтов}\n"}
Задача: {задача}
Рассуждай шаг за шагом. Не торопись к итогу —
мне важен ход мысли, а не только финальный ответ.
---
=== РАУНД {номер_раунда} — ИНСАЙТЫ ===
На основе рассуждения выше сформулируй {число_инсайтов} ключевых вывода,
которые мы уже установили как факты или сильные гипотезы.
Если предыдущие инсайты {список_инсайтов} уточнились — обнови их.
Если появились противоречия — отметь.
Формат: нумерованный список, каждый пункт — одно предложение.
---
=== ФИНАЛ ===
Ключевые выводы после всех раундов:
{финальный_список_инсайтов}
На основе полного хода рассуждений и этих выводов:
{финальный_вопрос}
Плейсхолдеры:
- {задача} — что нужно разобрать: анализ, решение, текст
- {число_инсайтов} — обычно 5–7
- {список_инсайтов} — копируешь ответ модели из предыдущего шага
- {финальный_вопрос} — конкретный вопрос или задание по итогам
🚀 Быстрый старт — вставь в чат:
Вот шаблон InsightReplay для глубокого анализа сложных задач.
Адаптируй под мою задачу: {твоя задача}.
Задавай вопросы, чтобы заполнить поля.
[вставить шаблон выше]
LLM спросит: какова задача, на сколько раундов разбить, какие аспекты нужно охватить — потому что ей нужно понять глубину задачи, чтобы правильно настроить цикл извлечения инсайтов.
Ограничения
⚠️ Простые задачи: Метод избыточен для вопросов, решаемых за 1–2 шага. Добавляет токены без пользы — применяй только для многошаговых задач с несколькими «слоями» анализа.
⚠️ Ручное управление: В отличие от автоматической системы из статьи, в чате переносить инсайты между запросами нужно вручную. Это требует дисциплины — но именно это и даёт контроль над процессом.
⚠️ Качество инсайтов: Если модель формулирует инсайты неточно или слишком абстрактно — они не помогут. Попроси быть конкретнее: «Только факты и сильные гипотезы, без общих слов».
⚠️ Накопление ошибок: Если ранний вывод был ошибочным — он «переедет» в следующий раунд. Полезно добавить инструкцию: «Если предыдущий инсайт оказался неверным — явно отметь это и исправь».
⚠️ Прирост точности небольшой: Средний прирост по всем моделям — около +1.65 п.п. Это стабильно, но не драматично. Метод скорее убирает деградацию на длинных задачах, чем производит революцию.
Как исследовали
Команда из University of Minnesota и Simular AI поставила вопрос иначе, чем обычно: не «как дать модели больше думать», а «почему дольше думать — не всегда лучше». Они прямо измерили, как внимание модели к ранним выводам меняется с расстоянием — вставляя «нейтральные» токены-заполнители между инсайтом и финальным ответом и наблюдая, как падают значения до softmax. Это умный дизайн: он изолирует именно эффект дистанции, не смешивая его с другими причинами.
Дальше — интересный эксперимент на 60 задачах AIME. Исследователи взяли готовые цепочки рассуждений Qwen3-8B, извлекли из них 5–7 ключевых инсайтов — и начали «кормить» модели разные комбинации: только инсайты, только цепочка, оба вместе, случайный шум вместо цепочки. Оказалось, что 236 токенов инсайтов давали 75% точности от полной 16 000-токенной цепочки рассуждений. Ещё удивительнее: добавление инсайтов поверх полной цепочки дополнительно улучшало результат — то есть инсайты несут информацию, которую цепочка не передаёт сама по себе.
Финальная проверка — решётка 2×3×4: 6 моделей, 4 бенчмарка, 24 комбинации. InsightReplay с 3 раундами дал положительный прирост в каждой из 24 — что редкость в ML-исследованиях. Самый крупный выигрыш: +9.2 п.п. на задачах по коду для R1-Distill-32B. Контрольная группа «Verify-Only» (модель просто продолжает думать без извлечения инсайтов) давала значительно меньший выигрыш — это доказывает, что дело именно в механизме извлечения-воспроизведения, а не просто в дополнительных токенах.
Оригинал из исследования
Method Description. The process begins from the user question Q. We initialize I₀ = Q, treating
the question itself as a "goal insight" that anchors all subsequent reasoning. The model then enters
a periodic loop. At each round t, conditioned on the full history (Q, R₁, I₁, ..., Rₜ₋₁, Iₜ₋₁),
the model:
(i) generates a reasoning chunk Rₜ, and
(ii) generates a new insight Iₜ via a summarization prompt that asks the model to consolidate
the conclusions reached so far, with the thinking content R₁,...,Rₜ retained in context.
Both Rₜ and Iₜ are appended to the history in order. Crucially, because Iₜ is generated in
the presence of all prior insights I₀,...,Iₜ₋₁, each new insight can reflect on and supersede
earlier ones — incorporating new conclusions, correcting prior errors, or refining imprecise
statements. The cumulative trace of insights thus forms an evolving abstraction of the reasoning
so far, rather than a flat concatenation of independent summaries.
Контекст: Это описание основного алгоритма InsightReplay из раздела 3.1. Исследователи инициализируют I₀ = вопрос, затем N раундов: (1) рассуждение Rₜ → (2) извлечение инсайтов Iₜ на основе всей истории → финальный ответ из полного контекста.
Адаптации и экстраполяции
1. Адаптация: инсайт-слой для длинного интервью / брифинга
💡 Адаптация для расшифровки интервью: разбираешь длинную расшифровку на части, после каждой части извлекаешь инсайты, включаешь их в следующий анализ.
=== БЛОК 1 ===
[текст первых 3000 слов интервью]
Что уже можно зафиксировать? Сформулируй 5 ключевых тезисов
из этого фрагмента — позиции героя, противоречия, неожиданные признания.
=== БЛОК 2 ===
Зафиксированные тезисы из блока 1:
{список тезисов}
[текст следующих 3000 слов]
Уточни тезисы выше с учётом новой информации.
Что подтвердилось? Что изменилось?
2. Техника: явное «устаревание» инсайтов → гибкость рассуждения
🔧 Добавить инструкцию о пересмотре → модель не «тащит» ошибочные ранние выводы
Добавь к промпту извлечения инсайтов:
Если какой-то вывод из предыдущего списка оказался неточным
или противоречит новым данным — зачеркни его и замени.
Инсайты — живой документ, не догма.
Без этой инструкции модель склонна сохранять ранние формулировки даже когда к 3-му раунду они устарели.
3. Экстраполяция: InsightReplay × ролевые дебаты
Совмести InsightReplay с многоагентным подходом: два «агента» (например, скептик и сторонник инвестиции) рассуждают по раундам, после каждого раунда — совместный список инсайтов, на который оба опираются дальше.
=== РАУНД {N} ===
Совместные инсайты предыдущих раундов:
{список}
АНАЛИТИК (за инвестицию):
[рассуждает, опираясь на инсайты]
СКЕПТИК (против):
[рассуждает, опираясь на те же инсайты]
=== ОБНОВЛЕНИЕ ИНСАЙТОВ ===
Что теперь признают оба? Что осталось предметом спора?
Обнови список инсайтов (5–7 пунктов).
Это позволяет вести «честную» дискуссию в контексте: обе роли видят одни и те же накопленные факты.
Ресурсы
Статья: Stateful Reasoning via Insight Replay — arxiv.org/abs/2506.XXXXX (препринт 2026)
Авторы: Bin Lei, Caiwen Ding (University of Minnesota); Jiachen Yang, Ang Li, Xin Eric Wang (Simular AI)
Контакты: lei00126@umn.edu, eric@simular.ai
Связанные работы: Chain-of-Thought Prompting (Wei et al.), Wu et al. (анализ инвертированной U-кривой CoT), DeepSeek-R1, Qwen3 — базовые модели для тестирования