3,583 papers
arXiv:2610.14073 70 8 окт. 2026 г. FREE

CTR (Confidence-Aware Temporal Reasoning): сначала выясни, предсказуем ли факт, и только потом отвечай

КЛЮЧЕВАЯ СУТЬ
Обнаружено: когда ответ о будущем перестаёт быть обоснованным, неопределённость модели почти не растёт. Она не чувствует границу и врёт с прежней уверенностью. Метод CTR (проверка предсказуемости факта перед ответом) позволяет получать от LLM честное «предсказать нельзя» вместо красивой выдумки про ставку, город или директора через три года. CTR принимает решение «отвечать или нет» ДО самого ответа. Модель сначала вспоминает таймлайн факта по годам, находит точки смены и определяет, как быстро факт меняется. Результат: галлюцинаций заметно меньше, а точность не падает, в том числе на быстро меняющихся фактах.
Адаптировать под запрос
⚡

TL;DR

CTR — пятиступенчатый конвейер для вопросов о будущем. Модель восстанавливает историю факта по годам, находит в ней моменты смены значения, определяет, как быстро факт меняется (быстро, медленно или никогда), и только после этого решает: отвечать или честно сказать «предсказать нельзя». Идея в том, что решение «отвечать или нет» принимается до самого ответа, а не вместе с ним.

Проблема в том, что модель отвечает на вопрос о будущем с одинаковой уверенностью и про «столицу Франции», и про «где пройдёт конференция через три года». Пока факт держался стабильно, она права. Как только срок выходит за границу, где известные данные что-то гарантируют, она повторяет устаревший ответ или выдумывает новый, и уверенность при этом не падает. Просто дать модели историю или свежие документы не спасает: такой подход помогает нестабильно. Не хватает не знаний, а умения отличить предсказуемый факт от непредсказуемого.

CTR вставляет между вопросом и ответом промежуточную диагностику. Шаги: (1) вспомнить значения факта по годам, (2) собрать таймлайн, (3) найти точки смены, (4) определить режим изменчивости и вынести вердикт «предсказуемо / непредсказуемо», (5) ответить, только если вердикт позволяет, иначе воздержаться. В итоге галлюцинаций заметно меньше, а точность не падает, в том числе на быстро меняющихся фактах.

🔬

Схема метода

ШАГ 1: Историческое воспоминание → значение факта за каждый год окна + уверенность
ШАГ 2: Таймлайн → таблица (год, значение, надёжность); сомнительные записи с низким весом
ШАГ 3: Поиск точек смены → годы, когда значение реально поменялось (одиночные выбросы отсекаем)
ШАГ 4: Режим и вердикт → FAST / SLOW / NEVER + PREDICTABLE / UNPREDICTABLE
ШАГ 5: Ответ под контролем → отвечаем только при PREDICTABLE, иначе воздерживаемся

В оригинале это программа: ~50 отдельных запросов по годам, токен-энтропия как мера уверенности. В чате шаги можно уложить в один промпт (см. шаблон).

🚀

Пример применения

Задача: Аналитик готовит презентацию для инвесторов «Планы на 2027». Ему нужно вставить три факта: ключевая ставка ЦБ на 1 июля 2027, город проведения ПМЭФ в 2027, генеральный директор Сбера на конец 2027. Он боится, что модель уверенно впишет красивые, но выдуманные значения.

Промпт:

Ты — аналитик, который не имеет права гадать. Для каждого факта ниже пройди 5 шагов и только потом отвечай.

Факты:
1. Ключевая ставка Банка России на 1 июля 2027 года
2. Город проведения ПМЭФ в 2027 году
3. Генеральный директор Сбера на конец 2027 года

Для КАЖДОГО факта:

ШАГ 1. Историческое воспоминание. Вспомни значение факта за каждый год последних 15 лет (2010–2024). Рядом с каждым значением поставь уверенность: высокая / средняя / низкая.

ШАГ 2. Таймлайн. Собери таблицу: год | значение | надёжность. Записи с низкой уверенностью пометь как сомнительные и не опирайся на них.

ШАГ 3. Точки смены. Укажи годы, когда значение реально поменялось. Одиночный скачок, не подтверждённый соседними годами, считай шумом.

ШАГ 4. Режим и вердикт.
- Режим: FAST (меняется часто), SLOW (меняется редко и по понятной причине), NEVER (не меняется).
- Вердикт: PREDICTABLE, если таймлайн даёт основание назвать одно конкретное значение на целевую дату; UNPREDICTABLE, если значение зависит от будущих решений или событий, которых в таймлайне нет.

ШАГ 5. Ответ. Если PREDICTABLE — назови значение и укажи, на каком основании. Если UNPREDICTABLE — не называй конкретное значение. Вместо этого напиши, от чего оно зависит и что нужно проверить перед публикацией. Выдумывать и экстраполировать без опоры на таймлайн запрещено.

В конце — итоговая таблица: факт | режим | вердикт | ответ или «воздерживаюсь».

Результат: Модель выдаст для каждого из трёх фактов таймлайн по годам, список точек смены, режим и вердикт. Скорее всего, факты разойдутся по вердиктам. У факта, который сильно зависит от будущих решений, вместо цифры появится «воздерживаюсь» с перечнем того, что надо проверить. Для факта с долгой стабильной историей вы получите конкретный ответ с обоснованием. В конце будет сводная таблица, которую удобно проверять руками.

🧠

Почему это работает

Слабость. Модель обучена продолжать текст правдоподобно. Вопрос «кто будет главой в 2028» она воспринимает как «заполни пропуск» и заполняет. Эксперименты показали: когда ответ перестаёт быть обоснованным, неопределённость модели почти не растёт. Она не чувствует границу. Поэтому просьба «скажи, если не уверен» срабатывает плохо, сигнала изнутри нет.

Сильная сторона. Модель хорошо вспоминает отдельные факты по конкретным годам и умеет сравнивать соседние значения. Вопрос «что было в 2015?» для неё проще и надёжнее, чем «что будет в 2028?». А по готовой таблице она неплохо классифицирует: «значение менялось четыре раза за десять лет — это быстрый режим».

Как метод связывает одно с другим. Он превращает невозможный вопрос («угадай будущее») в серию возможных (вспомни прошлое, найди смены, классифицируй), а решение отвечать принимается на основе явных данных, а не ощущения уверенности.

Рычаги управления: - Окно в годах (в оригинале 50) → для быстрых фактов хватит 5–10 лет, для медленных нужно больше. - Фильтр шума («одиночный скачок = шум») → ослабь, если ждёшь резких разовых смен. - Условие воздержания → замени «не называй значение» на «назови диапазон и вероятности», если нужен сценарный прогноз. - Шкала уверенности → в чате заменяет токен-энтропию из оригинала. Чем строже критерии «высокая/низкая», тем жёстче фильтр.

📋

Шаблон промпта

Ты — аналитик, который отвечает о будущем только при наличии опоры в истории. Гадать нельзя.

Вопрос: {вопрос_о_будущем}
Целевая дата: {дата}
Окно истории: {число_лет} лет до целевой даты

Пройди по шагам и покажи каждый.

ШАГ 1. Историческое воспоминание.
Для каждого года окна вспомни значение факта. Рядом — уверенность: высокая / средняя / низкая.

ШАГ 2. Таймлайн.
Таблица: год | значение | надёжность. Записи с низкой уверенностью, противоречивые или странные помечай «сомнительно» и не используй как опору.

ШАГ 3. Точки смены.
Перечисли годы, когда значение реально поменялось. Одиночный скачок без подтверждения соседними годами считай шумом и не включай.

ШАГ 4. Режим и вердикт.
Режим: FAST / SLOW / NEVER.
Вердикт: PREDICTABLE — если таймлайн и режим обосновывают одно конкретное значение на {дата}; UNPREDICTABLE — если значение зависит от внешних событий, которых нет в таймлайне.
Кратко объясни решение (2–3 предложения).

ШАГ 5. Ответ.
— PREDICTABLE: назови значение и ключевое основание из таймлайна.
— UNPREDICTABLE: не называй конкретное значение. Напиши, от чего оно зависит и что проверить в актуальных источниках.
Запрещена экстраполяция, не следующая из таймлайна.

Формат вывода: <режим>, <вердикт>, <ответ или «воздерживаюсь»>.

Подставьте: - {вопрос_о_будущем} — конкретный факт («Кто возглавляет X», «Где пройдёт Y»); - {дата} — когда он должен быть истинным; - {число_лет} — глубина истории (10–50).

🚀 Быстрый старт — вставь в чат:

Вот шаблон CTR (пятишаговая проверка предсказуемости факта). Адаптируй под мою задачу: [твоя задача]. 
Задавай вопросы, чтобы заполнить поля.

[вставить шаблон выше]

LLM спросит, какие именно факты о будущем вам нужны, на какую дату и какая глубина истории разумна. Это нужно, чтобы окно шага 1 и критерии «предсказуемо» подходили под скорость изменения ваших фактов. Затем она соберёт готовый промпт или пакетную версию на несколько фактов.

⚠️

Ограничения

⚠️ Оригинал — код, не чат: CTR в исследовании — программа: десятки отдельных запросов по годам и мера уверенности по токен-энтропии (нужен доступ к вероятностям токенов). В обычном чате энтропии нет, её заменяет словесная оценка уверенности. Эффект такой замены авторы не измеряли.

⚠️ Память модели ограничена: весь метод строится на том, что модель верно вспомнит прошлое. Если она путает годы или значения, таймлайн получится ложным, а вердикт — уверенно неверным. Свежие факты после даты обучения она не знает вообще.

⚠️ Абсолютная точность остаётся низкой: на быстро меняющихся фактах правильные ответы редки у всех моделей, с CTR и без него. Метод в основном учит воздерживаться, а не угадывать.

⚠️ Цена воздержания: строгие правила отказа снижают охват. Альтернатива на основе одной только энтропии давала меньше всего галлюцинаций, но отвечала примерно на половину вопросов. CTR держит баланс, но не бесплатно.

⚠️ Малая проверка: тестировали на небольшом наборе фактов (337 вопросов) и на моделях, которые сейчас уже не самые сильные. Метки «предсказуемо / нет» авторы расставили сами по состоянию на сентябрь 2025.

🔍

Как исследовали

Сначала авторы проверили, почему модели ошибаются в вопросах о будущем. Они взяли факт с известной датой смены (например, «где проходят Олимпийские игры») и спрашивали модель про моменты каждые полгода в окне в три года вокруг этой даты, не раскрывая границу. Результат неприятный. Лучшие модели до границы отвечали верно в большинстве случаев, а после неё точность падала в разы. Одна из моделей в 92% случаев после смены продолжала повторять устаревший ответ. Неопределённость модели на границе почти не росла. Вывод: модели не чувствуют границу предсказуемости.

Затем они собрали набор из 337 фактов трёх типов (быстро-, медленно- и вообще не меняющиеся), обновили эталонные ответы под сентябрь 2025 и прогнали четыре модели (LLaMA-3.1-8B, Qwen3-4B, Mistral-7B и GPT-4o) по пять раз. Сравнивали три варианта: обычный вопрос, цепочка рассуждений с той же историей и CTR.

Неожиданный результат: просто дать модели ту же историю не помогало стабильно, в ряде случаев точность даже падала. Выигрывала версия, где история превращалась в диагноз «режим + предсказуемость». В среднем точность выросла на 6,7 пункта, а галлюцинации упали на 18,4 пункта. У GPT-4o доля галлюцинаций упала с 17,8% до 11,3%. Также сравнили три конкурирующих подхода (фильтр по энтропии, голосование разных моделей, самосогласованность из пяти ответов). Ни один не дал такого сочетания точности и низких галлюцинаций. Практический инсайт: для надёжности важно не «спросить несколько раз» и не «дать больше данных», а явно проверить, есть ли основание для ответа.

💡

Адаптации и экстраполяции

Это мои переносы идеи, в статье их нет.

🔧 Техника: убрать шаги 1–3 → быстрая проверка перед ответом

Для повседневных вопросов хватит короткого правила в начале промпта:

Прежде чем отвечать на вопрос о будущем, определи: это FAST, SLOW или NEVER-факт? Если значение зависит от будущих решений или событий, а в истории нет устойчивой закономерности, не называй конкретное значение. Назови, от чего оно зависит и что проверить.

Так теряется проверка по таймлайну, но остаётся главное: решение о воздержании принимается до ответа.

Экстраполяция: правило в инструкции агента. В файл инструкций (CLAUDE.md, системный промпт) можно добавить блок:

Для любых утверждений о будущем или о «текущем» значении быстро меняющихся фактов (должности, ставки, курсы, версии, цены):
1. Сначала классифицируй: FAST / SLOW / NEVER.
2. Для FAST: не отвечай по памяти. Проверь через поиск или попроси источник. Если нет доступа — напиши «не уверен, нужна проверка».
3. Только для SLOW и NEVER отвечай по памяти и указывай, на чём основан ответ.
🔗

Ресурсы

  • Is the Future Predictable? Modeling Future Predictability for Reliable Temporal Reasoning — Yongyi Huang, Huaping Zhang, Wenyao Cui, Qiuchi Li, Lei Li, Baohua Zhang. Beijing Institute of Technology, Zhongguancun Academy.
  • Задача ChronoRegime и фреймворк CTR. Данные собраны на базе FreshQA (github.com/freshllms/freshqa) и TempLAMA (github.com/google-research/language, templama).

📋 Дайджест исследования

Ключевая суть

Обнаружено: когда ответ о будущем перестаёт быть обоснованным, неопределённость модели почти не растёт. Она не чувствует границу и врёт с прежней уверенностью. Метод CTR (проверка предсказуемости факта перед ответом) позволяет получать от LLM честное «предсказать нельзя» вместо красивой выдумки про ставку, город или директора через три года. CTR принимает решение «отвечать или нет» ДО самого ответа. Модель сначала вспоминает таймлайн факта по годам, находит точки смены и определяет, как быстро факт меняется. Результат: галлюцинаций заметно меньше, а точность не падает, в том числе на быстро меняющихся фактах.

Принцип работы

Просьба «скажи, если не уверен» почти не работает. Внутреннего сигнала у модели нет. Поэтому ей не доверяют ощущение, а ведут по пяти шагам. 1. Вспомнить значение факта за каждый год. 2. Собрать таблицу: год, значение, надёжность. 3. Найти годы, когда значение реально сменилось. Одиночные скачки считаются шумом. 4. Определить режим изменчивости: быстрый, медленный или неизменный. Затем вынести вердикт: предсказуемо или нет. 5. Ответить, только если вердикт разрешает. Иначе промолчать. Это как врач: сначала анализы, потом диагноз. Невозможный вопрос «угадай будущее» превращается в серию простых: «что было в 2015?»

Почему работает

Модель обучена продолжать текст правдоподобно. Вопрос «кто будет главой в 2028» она читает как «заполни пропуск» и заполняет. Граница между «знаю» и «додумываю» для неё не видна. Зато модель хорошо вспоминает отдельные факты по конкретным годам. Соседние значения она сравнивает уверенно. По готовой таблице она неплохо классифицирует: «менялось четыре раза за десять лет, значит режим быстрый». Метод не лечит слабость модели, а обходит её: решение принимается по явной таблице, а не по ощущению уверенности. В оригинале окно истории 50 лет, около 50 отдельных запросов и проверка на 337 вопросах. В чате вместо токен-энтропии (меры уверенности по вероятностям слов) стоит словесная оценка «высокая / средняя / низкая». Авторы эту замену не измеряли. Ограничения. Если модель путает годы, таймлайн ложный, а вердикт уверенно неверный. Свежие факты после даты обучения она не знает вовсе. На быстро меняющихся фактах правильные ответы редки у всех моделей. CTR в основном учит воздерживаться, а не угадывать.

Когда применять

Аналитика и подготовка документов → конкретно для фактов с датой в будущем: ставки, места событий, руководители, лимиты, особенно когда цифра пойдёт в презентацию или отчёт и ошибку заметят поздно. Хорошо работает пакетно: один промпт на 3–10 фактов с итоговой таблицей «факт | режим | вердикт | ответ». НЕ подходит для фактов, которые модель не могла видеть при обучении (после даты её данных). Не подходит и для сценарного прогноза «что будет», если не заменить условие воздержания на «назови диапазон и вероятности». Для быстрых фактов хватит окна в 5–10 лет, для медленных нужно больше.

Мини-рецепт

1. Выбери факт и дату: не «кто глава банка», а «кто глава банка на 31 декабря 2027».
2. Задай окно: 10 лет для быстрых фактов, 15–30 для медленных.
3. Запрети гадать: <роль>аналитик, который отвечает о будущем только при опоре в истории.
4. Заставь показать каждый шаг: воспоминание по годам, таблица, точки смены, режим, вердикт. Без показанных шагов метод превращается в обычный вопрос.
5. Дай честный выход: при вердикте «непредсказуемо» модель не называет значение, а пишет, от чего оно зависит и что проверить.
6. Настрой строгость: хочешь больше ответов, ослабь фильтр шума. Хочешь меньше выдумок, ужесточи критерии «высокая уверенность».
7. Проверь таблицу руками: если модель путает годы в прошлом, вердикту верить нельзя.

Примеры

[ПЛОХО]: `Какая ключевая ставка ЦБ будет на 1 июля 2027 года? Если не уверен, скажи.` [ХОРОШО]: `Ты аналитик, который не имеет права гадать. Факт: ключевая ставка Банка России на 1 июля 2027 года. ШАГ 1: вспомни значение за каждый год 2010–2024 и поставь уверенность (высокая / средняя / низкая). ШАГ 2: собери таблицу год | значение | надёжность, сомнительные записи пометь и не опирайся на них. ШАГ 3: укажи годы реальной смены значения, одиночный скачок считай шумом. ШАГ 4: определи режим (быстрый / медленный / неизменный) и вердикт: предсказуемо или непредсказуемо. ШАГ 5: если предсказуемо, назови значение и основание. Если нет, не называй цифру, напиши, от чего она зависит и что проверить перед публикацией.` [ПЛОХО]: `Кто будет генеральным директором Сбера в конце 2027?` [ХОРОШО]: `Те же пять шагов, но для трёх фактов сразу: ставка ЦБ на 1.07.2027, город ПМЭФ в 2027, директор Сбера на конец 2027. В конце выведи таблицу: факт | режим | вердикт | ответ или «воздерживаюсь».`
Источник: Is the Future Predictable? Modeling Future Predictability for Reliable Temporal Reasoning
ArXiv ID: 2610.14073 | Сгенерировано: 2026-10-14 06:20

Проблемы LLM

ПроблемаСутьКак обойти
Модель не чувствует, где ответ о будущем перестаёт быть обоснованнымСпрашиваешь про факт на будущую дату: глава компании, место события, ставка, версия продукта. Пока факт стабилен, модель права. Дальше она повторяет старое значение или выдумывает новое. Уверенность не падает. Просьба "скажи, если не уверен" почти не помогает, потому что сигнала изнутри нет. Выдуманное значение выглядит как проверенноеНе проси модель оценить себя. Заставь сначала собрать явные данные: значения факта по годам. Потом пусть по ним решит, можно ли называть значение. Решение должно опираться на таблицу, а не на ощущение уверенности

Методы

МетодСуть
Диагностика предсказуемости до ответа — меньше выдуманных прогнозовРазбей один невозможный вопрос ("что будет в 2028?") на возможные. Шаги: (1) вспомни значение факта за каждый год окна, рядом поставь уверенность: высокая / средняя / низкая. (2) Собери таблицу год \| значение \| надёжность. Сомнительные записи не используй как опору. (3) Найди годы, когда значение реально менялось. Одиночный скачок без подтверждения соседними годами считай шумом. (4) Определи режим: меняется часто, редко или никогда. Вынеси вердикт ПРЕДСКАЗУЕМО / НЕПРЕДСКАЗУЕМО. (5) При "предсказуемо" назови значение и основание. При "непредсказуемо" не называй значение. Напиши, от чего оно зависит и что проверить. Почему работает: модель хорошо вспоминает факты по конкретным годам. Она неплохо сравнивает соседние значения и классифицирует готовую таблицу ("за 10 лет менялось 4 раза — быстрый режим"). Это проще, чем угадывать будущее. Решение "отвечать или нет" принимается до ответа и по явным данным. Настройка: окно 5–10 лет для быстрых фактов, больше для медленных. Для сценариев замени запрет на "назови диапазон и вероятности". Когда да: несколько фактов о будущем, где ошибка дорога (презентации, отчёты, планы). Когда нет: модель плохо знает историю факта, или факт новее даты её обучения. Тогда таймлайн будет ложным, а вердикт — уверенно неверным. Метод учит воздерживаться, а не угадывать. На быстро меняющихся фактах верных ответов всё равно мало
📖 Простыми словами

Is the Future Predictable?ModelingFuture Predictability for Reliable Temporal Reasoning

arXiv: 2610.14073

Языковые модели вообще не умеют заглядывать в будущее — они тупо натренированы генерировать правдоподобный текст. Когда ты спрашиваешь сетку про ставку ЦБ в 2027 году, для неё это просто игра в заполнение пропусков, а не аналитический прогноз. Внутри нейросети при этом ноль сомнений: уровень её внутренней неопределённости даже не дёргается, поэтому дежурный промпт "отвечай, только если уверен" — это полный провал.

Это как спросить у пьяного таксиста точный маршрут и время поездки через пять лет. Вместо честного ответа в духе «мужик, ты с дуба рухнул?», он с умным видом назовёт тебе секунды — лишь бы не молчать. Обычная языковая модель ведёт себя ровно так же: она физически не чувствует границы между проверенным фактом и чистой галлюцинацией.

Чтобы починить эту херню, исследователи разработали CTR — пятиступенчатый конвейер темпорального рассуждения. Схема простая: модель сначала поднимает историю вопроса по годам, ищет точки смены значений и оценивает скорость динамики — меняется ли факт быстро, медленно или никогда. Главный трюк в том, что фильтр предсказуемости срабатывает до генерации ответа: если параметр скачет хаотично, система бьёт себя по рукам и честно выдаёт "не знаю".

Тестировали механику на макроэкономике и политике, но принцип универсален. Любая бизнес-аналитика, планирование цепочек поставок или скоринг рисков страдают от того, что AI с радостью рисует цифры с потолка. Если внедрить контроль предсказуемости, алгоритм перестанет кормить команду уверенным бредом там, где реальные эксперты просто разводят руками.

Короче: хватит просить нейросети ванговать будущее в лоб — они всегда соврут и не поморщатся. Сначала заставь модель проанализировать динамику исторических данных, а уже потом решай, давать ли ей слово. Разделение оценки на два шага спасает аналитиков от публичного позора, а бизнес — от фатальных решений на основе красивых фантазий.

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с