3,583 papers
arXiv:2609.03254 75 3 сент. 2026 г. FREE

Multi-Sample Revision: как заставить LLM не забывать про связанные правки

КЛЮЧЕВАЯ СУТЬ
Обнаружено: LLM правит документ, глядя только на финальный текст — а логика правки жила в переписке, которая к нему привела. Метод Multi-Sample Revision позволяет находить скрытые зависимости между пунктами документа и тащить правку по цепочке, а не чинить только то, что попросили напрямую. Модели дают документ и всю историю диалога одновременно — по отдельности результат хуже, потому что формула вычисления (например, «бюджет = 200$ × 3 человека») живёт в переписке, а не в готовом плане.
Адаптировать под запрос

TL;DR

Когда вы просите LLM поправить один пункт в документе — план, смету, конфиг — модель часто чинит только то, что вы явно назвали, и забывает пересчитать всё, что от этого зависит. Исследование проверяет именно эту способность: находить скрытые зависимости и тащить правку по цепочке, когда информация о связях лежит не в самом документе, а в переписке, которая привела к его созданию.

Главная находка: модели теряют связи, потому что смотрят в основном на финальный документ, а логика «почему тут стоит именно это число» была озвучена раньше в разговоре и не зафиксирована явно. Например, бюджет считался как «200$ × 3 человека» — но в итоговом плане осталась только цифра, без формулы. Убираешь один пункт — бюджет не пересчитывается, потому что модель не помнит, откуда он взялся. Ошибка почти всегда одна и та же: модель правит слишком мало, а не слишком много.

Метод борьбы с этим — не разовый трюк, а комбинация двух приёмов: (1) всегда давать модели одновременно и финальную версию документа, и полную историю разговора — по отдельности каждое из них хуже; (2) попросить модель сгенерировать 3-5 независимых вариантов правки и затем выбрать лучший — либо силами самой модели, либо взяв «самый типичный» вариант.


🔬

Схема метода

ШАГ 1: Подать модели финальный документ + всю историю переписки (не по отдельности!) 
       → запрос на правку
ШАГ 2: Сгенерировать 3-5 независимых версий правки (отдельные запросы или "дай мне N вариантов")
ШАГ 3: Показать модели все варианты → попросить выбрать самый полный/правильный
       → финальный ответ

Шаг 1 — обязательный минимум. Шаги 2-3 — усиление для важных/сложных правок, требует нескольких запросов подряд.


🚀

Пример применения

Задача: Вы несколько сообщений обсуждали с ChatGPT ремонт квартиры — комнаты, материалы, бюджет считался как «примерно 3000₽ за м² × площадь». В итоге получили финальный план с бюджетом. Теперь просите: «Убери ремонт балкона из плана».

Промпт:

Вот вся наша переписка про ремонт (вставляю целиком):
{история диалога}

Вот текущий финальный план:
{документ}

Правка: убери ремонт балкона из плана. 
Проверь, какие ещё пункты зависят от этого изменения (бюджет, сроки, список материалов) 
и обнови их тоже. Перечисли явно, что ты изменил и почему.

Результат: Модель уберёт балкон из списка, а благодаря присутствию истории — увидит, что бюджет считался по формуле «цена за м²», и пересчитает итоговую смету и сроки. Без истории (только план) модель скорее всего забудет про бюджет.

Для критичных документов — попросите три раза с разными формулировками «пересчитай план после удаления балкона», сравните три ответа и выберите тот, где учтены все пункты (бюджет, сроки, материалы).


🧠

Почему это работает

LLM плохо держит в голове связи между элементами, если они не написаны явно рядом. Финальный документ — это «результат», а формула, которая его породила («бюджет = цена × людей»), была сказана раньше и потерялась. Модель видит цифру, но не видит её происхождение.

Зато LLM хорошо справляется с сравнением готовых вариантов — заметить, какой из трёх кандидатов полнее учёл зависимости, ей проще, чем сгенерировать идеальный ответ с первого раза без единого прохода.

Метод соединяет эти два факта: даём модели весь контекст (история + документ), чтобы минимизировать потерю связей, а затем просим несколько попыток и выбор — чтобы поймать хотя бы в одном варианте то, что могло проскользнуть в другом.

Рычаги управления: - Число вариантов (3-5) → для простых правок хватит 2-3, для длинных документов с кучей зависимостей — больше - Способ выбора: «сама модель выбирает лучший» ловит больше пропущенных правок; «выбрать самый типичный вариант» (сравнить все между собой и взять похожий на большинство) даёт меньше лишних правок, но чуть хуже ловит редкие зависимости - Явная фраза «проверь, что ещё зависит от этого изменения» в промпте — усиливает эффект даже без множественных попыток


📋

Шаблон промпта

Вот вся история нашего диалога по задаче {название задачи}:
{история переписки}

Вот текущая финальная версия документа:
{документ}

Правка: {что нужно изменить}

Перед тем как ответить:
1. Найди все элементы документа, которые логически зависят от этого изменения 
   (суммы, даты, количества, ссылки на изменяемый пункт).
2. Обнови их вместе с основным изменением.
3. Явно перечисли, что ты изменил и почему — не только то, что я попросил напрямую.

🚀 Быстрый старт — вставь в чат:

Вот шаблон для правки документа с учётом скрытых зависимостей. 
Адаптируй под мою задачу: {твоя задача}.
Задавай вопросы, чтобы заполнить поля.

[вставить шаблон выше]

LLM спросит, какая у вас история переписки и что именно нужно поправить — потому что без полного контекста она не сможет восстановить скрытые зависимости, а метод работает именно на этом.


⚠️

Ограничения

⚠️ Не даёт 100% точности: даже лучшие модели с лучшим методом ошибаются в среднем в 5-30% случаев — метод снижает риск, но не убирает его.

⚠️ Строгий консенсус вредит: если просить модель принимать правку только тогда, когда все варианты сошлись — точность падает сильно (на 13-21%), потому что правильные, но редко замеченные правки отбрасываются.

⚠️ Большие документы — слабое место: чем больше элементов в документе, тем больше пропущенных зависимостей у всех моделей без исключения.

⚠️ Множественные попытки стоят времени: генерация 3-5 вариантов и выбор — это несколько запросов подряд, а не один быстрый ответ.


🔍

Как исследовали

Исследователи из NTT собрали бенчмарк RevPropBench: 150 примеров в 9 практических сферах — туристические планы, счета, списки покупок, расписания проектов, курсы, конфиги ПО и другие. Сначала сильная модель (GPT-5.5) генерировала диалог и финальный JSON-документ, потом добавлялся запрос на правку, а «правильный» ответ размечали люди с помощью Claude Opus как ассистента.

На этом бенчмарке проверили шесть моделей (от небольших gpt-oss-20b до gpt-5.4-mini и разных версий qwen3.5) девятью способами — от простого одного прохода до сложных схем с несколькими попытками и выбором. Одиночный проход дал точность 68-93% в зависимости от модели — большой разброс. Самое интересное: добавление истории разговора к документу давало прирост стабильно во всех моделях — подтверждает, что зависимости прячутся именно в переписке, не в самом документе. А среди способов усиления самым выгодным по соотношению «затраты/эффект» оказался выбор лучшего из трёх параллельных вариантов — либо силами модели, либо через «самый типичный» кандидат.


🔗

Ресурсы

RevPropBench, Daisuke Kikuta, NTT, Inc. Код и датасет: github.com/ntt-dkiku/llm-revision-propagation


📋 Дайджест исследования

Ключевая суть

Обнаружено: LLM правит документ, глядя только на финальный текст — а логика правки жила в переписке, которая к нему привела. Метод Multi-Sample Revision позволяет находить скрытые зависимости между пунктами документа и тащить правку по цепочке, а не чинить только то, что попросили напрямую. Модели дают документ и всю историю диалога одновременно — по отдельности результат хуже, потому что формула вычисления (например, «бюджет = 200$ × 3 человека») живёт в переписке, а не в готовом плане.

Принцип работы

Правило простое: сначала контекст, потом выбор. Дай модели документ и полную историю разговора одним куском — не по частям. Затем попроси 3-5 независимых вариантов правки и выбери тот, где учтены все зависимости. Модель лучше сравнивает готовые варианты, чем выдаёт идеальный ответ с первого раза.

Почему работает

Модель как студент, который сдал экзамен и выкинул черновик. Финальный документ — это ответ, а формула «бюджет = цена × людей» — это черновик, который потерялся по пути. LLM гораздо лучше сравнивает готовые варианты, чем генерирует идеальный с первого раза — отсюда и польза от 3-5 попыток вместо одной. Без истории диалога ошибка почти всегда одна: модель правит слишком мало, а не слишком много.

Когда применять

Работа с документами через диалог с LLM → правки в планах, смётах, конфигах, где числа и пункты связаны формулами. Особенно критично для длинных документов с кучей зависимостей — там пропущенных связей больше у всех моделей без исключения. Не подходит для мелких правок вроде «исправь опечатку» — тратить 3-5 запросов на такое бессмысленно.

Мини-рецепт

1. Собери контекст: скопируй всю историю переписки, которая привела к документу — не только финальную версию.
2. Подай одним запросом: документ и историю вместе, никогда по отдельности.
3. Попроси явно: добавь фразу «проверь, что ещё зависит от этого изменения» — она усиливает эффект даже без множественных попыток.
4. Для важных правок сгенерируй 3-5 вариантов: несколько отдельных запросов подряд с одной и той же правкой.
5. Выбери лучший: попроси модель сравнить варианты и назвать самый полный, либо возьми тот, что похож на большинство.

Примеры

[ПЛОХО] : Убери ремонт балкона из плана (подан только финальный документ, без истории переписки)
[ХОРОШО] : Вот вся переписка про ремонт: {история}. Вот текущий план: {документ}. Убери балкон из плана. Проверь, какие ещё пункты зависят от этого изменения (бюджет, сроки, материалы), и обнови их тоже. Перечисли явно, что изменил и почему.
Источник: What Else Needs Fixing? Exploring Cost-Effective Test-Time Compute for Revision Propagation in Artifacts Generated Through Conversation
ArXiv ID: 2609.03254 | Сгенерировано: 2026-09-04 04:28

Проблемы LLM

ПроблемаСутьКак обойти
Модель забывает пересчитать связанные пункты после правкиПросишь убрать или изменить один элемент документа. Модель меняет только его. Не трогает то, что от него зависело — сумму, срок, количество. Причина: логика расчёта была озвучена в переписке раньше. В финальном документе осталась только цифра, без формулы. Модель видит число, но не видит его происхождениеДавай модели одновременно весь документ И полную историю переписки, которая привела к его созданию. Добавь в запрос: "проверь, какие элементы зависят от этого изменения, и обнови их тоже"

Методы

МетодСуть
Документ + история переписки вместе — восстановление скрытых связейПодавай модели финальный документ и всю переписку одним запросом, не по отдельности. Почему работает: логика создания документа (формулы, причины выбора чисел) часто звучит в разговоре, но не фиксируется в самом документе. Без истории модель видит только результат, без объяснения "откуда взялось". Работает: правки документов, планов, смет, конфигов, где решения принимались поэтапно в диалоге. Не работает: если документ создан без предварительного обсуждения — истории просто нет
Несколько вариантов правки + выбор лучшегоПопроси модель сгенерировать 3-5 независимых версий правки отдельными запросами. Затем покажи все варианты и попроси выбрать самый полный (учёл больше зависимостей) или взять "типичный" (похожий на большинство). Почему работает: модели легче сравнить готовые варианты и заметить упущения, чем сразу сгенерировать идеальный ответ. Работает: важные документы, много зависимостей, критичность ошибки высокая. Не работает: простые правки без побочных эффектов — трата запросов зря

Тезисы

ТезисКомментарий
Сравнивать готовые варианты легче для модели, чем создать идеальный ответ с первого разаМодель хуже держит в голове все скрытые связи при генерации с нуля — легко упустить зависимость. Но когда перед ней уже готовые варианты, она способна заметить, какой из них полнее учёл детали. Это работает не только для правки документов — любая задача, где важна полнота ответа, выигрывает от схемы "сгенерируй несколько сравни выбери". Применяй: для важных задач не полагайся на первый ответ. Запроси 3-5 вариантов, затем отдельным запросом попроси модель сравнить их и выбрать самый полный
📖 Простыми словами

What Else Needs Fixing? Exploring Cost-Effective Test-TimeComputefor Revision Propagation in Artifacts Generated Through Conversation

arXiv: 2609.03254

LLM генерируют отличные итоговые документы — сметы, конфиги, планы, — но каскадные правки ломают их на корню. Проблема кроется в устройстве контекста: когда ты просишь «убери балкон из сметы», модель тупо вычёркивает строку с балконом. Но пересчитать общую сумму, логистику и сроки она забывает. Модель видит финальный текст перед глазами, но напрочь теряет логические связи, которые вы обсуждали пять сообщений назад.

Это как заказать повару пиццу без глютена, а он просто спасёт ситуацию тем, что снимет с неё колбасу и оставит обычное пшеничное тесто. Формально просьба выполнена, но на деле — полный провал. Нейросеть ведёт себя как ленивый подмастерье: правит только то, во что ты ткнул пальцем, совершенно игнорируя скрытые зависимости всей конструкции.

Авторы исследуют revision propagation через test-time compute — методику, где модели дают дополнительные ресурсы на размышление перед ответом. Суть проста: заставить LLM сначала восстановить родословную данных из всей переписки, вскрыть неявные формулы вроде «бюджет = цена × площадь» и протащить правку по всей цепочке. Стоит потратить чуть больше вычислений на проверку, и критические нестыковки исчезают.

Тестировали механику на сметах, но болячка универсальна для любых артефактов. Ровно так же модели ломают архитектуру кода при точечном рефакторинге функций, рушат таймлайны проектов и калечат серверные конфиги. Везде, где сложный результат рождается в длинном диалоге, модель без специального пинка выдаст иллюзию правильного документа.

Короче: никогда не надейся, что AI сам догадается «поправить всё, что с этим связано». Если вносишь правку в результат длинного обсуждения, требуй сквозного пересчёта зависимостей или настраивай пайплайн с валидацией. Иначе получишь внешне идеальный файл с дырявой логикой внутри, которую придётся мучительно отлавливать вручную.

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с