3,583 papers
arXiv:2607.10139 84 11 июля 2026 г. FREE

LLM-жюри: несколько разных моделей точнее, чем одна, опрошенная много раз

КЛЮЧЕВАЯ СУТЬ
Когда жмёшь «переспроси» — ты не проверяешь ответ, ты переголосовываешь за ту же ошибку снова. Кросс-модельный консенсус позволяет получать надёжный ответ на задачах с математикой, кодом и фактами — без дообучения, без специальных инструментов, прямо в чате. Фишка: ошибки разных семейств моделей не совпадают — Claude лажает в одном месте, GPT в другом, Gemini в третьем. Неверные ответы разлетаются в стороны, а верный накапливает голоса: кросс-модельный консенсус на математических бенчмарках побил специально обученные верификаторы (Process Reward Models) — без единой строки дообучения.
Адаптировать под запрос

TL;DR

Кросс-модельный консенсус — техника выбора ответа: задать один и тот же вопрос нескольким независимым LLM из разных семейств, и взять ответ, на котором большинство сошлось. Каждая модель решает задачу самостоятельно, не видя ответов остальных — как присяжные, которые принимают решение изолированно, прежде чем объявить вердикт.

Главная находка: разные модели ошибаются по-разному. Когда несколько независимых LLM решают одну задачу, их неправильные ответы «разлетаются» в разные стороны, а верный — накапливает согласие. Одна модель, опрошенная много раз, наоборот, раз за разом повторяет одну и ту же ошибку — и большинством голосов «принимает» неверный ответ. Это как пересчитывать один и тот же дефектный измерительный прибор десять раз: вы получите стабильные — и стабильно ошибочные — цифры.

Метод работает в два движения: дать задачу нескольким разнородным моделям по отдельности, затем взять ответ большинства. Единогласие — сигнал высокой уверенности, разброс — повод копать глубже.


🔬

Схема метода

Шаги выполняются в разных чатах / разных сервисах:

ШАГ 1: Задай вопрос модели A (Claude) → запиши ответ
ШАГ 2: Задай тот же вопрос модели B (ChatGPT) → запиши ответ
        ⚠️ Не показывай ей ответ модели A
ШАГ 3: Задай тот же вопрос модели C (Gemini / Grok) → запиши ответ
        ⚠️ Не показывай ей ответы предыдущих

ВЫВОД: Ответ, на котором сошлись 2-3 модели → принять
       Все три дали разное → вопрос под сомнением, нужна дополнительная проверка
       Все три совпали → высокая уверенность

Опционально — режим «кандидаты + жюри»:

ШАГ 1: Попроси одну сильную модель решить задачу 5-10 раз (разные попытки)
        → получи пул кандидатов
ШАГ 2: Задай ту же задачу 2-3 другим моделям независимо
        → жюри решает задачу самостоятельно, не оценивает чужие ответы
ШАГ 3: Выбери кандидата из пула, который совпадает с ответом большинства жюри

🚀

Пример применения

Задача: Илья — основатель SaaS-стартапа в Москве. Он планирует поднять цены с 1990 ₽ до 2490 ₽ в месяц при текущем оттоке 4% в месяц. Нужно понять: при каком уровне оттока после повышения цен выручка всё равно вырастет? Критично не ошибиться — от этого зависит решение на ближайший квартал.

Промпт (вставляется в каждый чат отдельно):

Задача по юнит-экономике SaaS:

Текущие параметры:
- Цена: 1 990 ₽/мес
- Ежемесячный отток (churn): 4%
- База: 500 клиентов

Планируемые параметры:
- Новая цена: 2 490 ₽/мес
- Ожидаемый рост оттока после повышения: неизвестен

Вопрос: при каком максимальном ежемесячном оттоке (в %) после повышения цены 
ежемесячная выручка не упадёт ниже текущей?

Покажи расчёт по шагам и дай финальное число.

Этот же промпт — в Claude, ChatGPT, Gemini по очереди, без показа предыдущих ответов.

Результат: Каждая модель покажет пошаговый расчёт и финальное число. Если две-три модели сошлись на одном значении оттока — это ваш ответ с высокой уверенностью. Если ответы разошлись — стоит попросить каждую модель показать формулу явно и найти, где логика расходится.


🧠

Почему это работает

У любой отдельной LLM есть систематические слепые пятна — паттерны ошибок, которые возникают из-за особенностей обучения. Когда вы переспрашиваете одну модель несколько раз, она генерирует вариации вокруг одного и того же (ошибочного) понимания задачи. Большинство голосов берёт неверная интерпретация.

Модели из разных семейств (Anthropic, OpenAI, Google, DeepSeek) обучены на разных данных, разными командами, с разными архитектурными решениями. Их ошибки декоррелированы — они ошибаются в разных местах. Неверные ответы разлетаются: одна модель выдаёт X, другая Y, третья Z. Верный ответ накапливает согласие — именно он оказывается в большинстве.

Рычаги управления: - Количество моделей → 3 модели дают хороший сигнал; 4-5 повышают уверенность на сложных задачах - Единогласие как порог → если все три совпали — принимай без сомнений; если только 2 из 3 — уже хорошо, но тема сложная - Тип задачи → математика и код дают максимальный эффект; знаниевые вопросы («какой закон применить») — меньший, потому что у моделей могут быть общие заблуждения из одних учебников - Изоляция → критически важно, чтобы каждая модель решала независимо. Не показывай ответ первой модели второй — это обнуляет декорреляцию


📋

Шаблон промпта

Используй этот промпт, чтобы собрать вердикт жюри вручную:

Я задал один и тот же вопрос трём разным AI-моделям независимо.

Вопрос: {твой_вопрос}

Ответы моделей:
- Claude: {ответ_claude}
- ChatGPT: {ответ_chatgpt}  
- Gemini: {ответ_gemini}

Задача:
1. Найди, на каком ответе сошлись 2-3 модели (или укажи, что все расходятся)
2. Если есть консенсус — подтверди его правильность, проверь логику
3. Если все расходятся — объясни, в чём принципиальное разногласие 
   и какой подход ты считаешь верным и почему

Плейсхолдеры: - {твой_вопрос} — сам вопрос, который ты задавал всем моделям - {ответ_claude} / {ответ_chatgpt} / {ответ_gemini} — скопируй финальные ответы каждой модели


🚀 Быстрый старт — вставь в чат:

Вот шаблон LLM-жюри для проверки консенсуса между моделями. 
Адаптируй под мою задачу: {твоя задача}. 
Задавай вопросы, чтобы заполнить поля.

[вставить шаблон выше]

LLM спросит какой вопрос ты задавал и какие ответы получил — потому что без этого она не сможет провести сравнение и найти точку согласия.


⚠️

Ограничения

⚠️ Общие заблуждения: Метод не работает, если все модели разделяют одну ошибку из-за схожего обучения. На научных вопросах уровня аспирантуры (GPQA) эффект слабее — модели учились на одних учебниках и могут одинаково воспроизвести неверную эвристику.

⚠️ Не для субъективных задач: Если нет объективно верного ответа (оцени этот текст, какой заголовок лучше), консенсус большинства ничего не значит — каждая модель «права» по-своему.

⚠️ Нужны разные семейства: Несколько версий одной и той же модели (GPT-4o и GPT-4o mini) почти не дают декорреляции — ошибки будут похожими. Важен именно кросс-семейный состав: Claude + ChatGPT + Gemini.

⚠️ Насыщенные задачи: На простых вопросах, где любая сильная модель отвечает правильно (таблица умножения, столица страны), метод ничего не добавляет — все и так верны.

⚠️ Требует нескольких подписок: Для полноценного жюри нужен доступ к 3+ разным платформам.


🔗

Ресурсы

Статья: LLMs as a Jury: Cross-Model Consensus Can Outperform Process Reward Models for LLM Reasoning (2025)

Автор: Ning Liu, Independent Researcher (University of Michigan)

Контакт: ningliu@umich.edu

Связанные работы: - Self-consistency (Wang et al., 2023) — исходный метод «переспроси одну модель много раз» - Process Reward Models: Lightman et al., 2023; Wang et al., 2024 - Panel of LLM judges (Verga et al., 2024) - Бенчмарки: AIME-2024/2025, MATH-500, GPQA Diamond, OlympiadBench, GSM8K, MMLU-Pro, HumanEval+


📋 Дайджест исследования

Ключевая суть

Когда жмёшь «переспроси» — ты не проверяешь ответ, ты переголосовываешь за ту же ошибку снова. Кросс-модельный консенсус позволяет получать надёжный ответ на задачах с математикой, кодом и фактами — без дообучения, без специальных инструментов, прямо в чате. Фишка: ошибки разных семейств моделей не совпадают — Claude лажает в одном месте, GPT в другом, Gemini в третьем. Неверные ответы разлетаются в стороны, а верный накапливает голоса: кросс-модельный консенсус на математических бенчмарках побил специально обученные верификаторы (Process Reward Models) — без единой строки дообучения.

Принцип работы

Переспрашивать одну модель — это как мерить кривой линейкой десять раз. Стабильность растёт, а точность нет. Правильно — взять три разные линейки из разных заводов. Изоляция так же важна, как и разнообразие: каждая модель должна решать задачу самостоятельно, не видя ответов остальных. Покажи первой ответ второй — и вторая заразится той же ошибкой. Всё, декорреляция уничтожена.

Почему работает

Модели из разных семейств — Anthropic, OpenAI, Google, DeepSeek — обучали разные команды, на разных данных, с разными архитектурными решениями. Их слепые пятна не совпадают. На задаче с объективным ответом это и есть механика: неправильные варианты расходятся веером, а правильный притягивает совпадения. Единогласие трёх независимых моделей — сигнал значительно сильнее, чем десять «попыток» одной.

Когда применять

Математика, код, юнит-экономика, юридические расчёты — любая задача, где есть объективно верный ответ. Особенно полезно, когда цена ошибки высока: финансовые расчёты, алгоритмы, факты с верификацией. НЕ подходит для субъективных задач («какой заголовок лучше», «оцени текст») — там консенсус большинства это просто усреднённое мнение, а не истина. Слабее работает и на вопросах из одной области знаний, где все модели учились на одних учебниках — общее заблуждение из источника никуда не денется.

Мини-рецепт

1. Открой три окна: Claude, ChatGPT и Gemini (или любые три из разных семейств — не три версии одного GPT).
2. Вставь один и тот же промпт в каждое — не показывай предыдущие ответы следующей модели. Совсем. Это критично.
3. Запиши ответы и сравни: две или три модели сошлись — берёшь этот ответ, уверенность высокая. Все три разошлись — вопрос сложный, попроси каждую показать шаги расчёта и найди, где логика расходится.
4. Опционально — режим «кандидаты + жюри»: попроси одну сильную модель решить задачу 5-10 раз, получи пул вариантов. Затем задай ту же задачу двум-трём другим моделям как жюри — они решают самостоятельно, не оценивают чужие ответы. Выбери кандидата из пула, совпавшего с ответом большинства жюри.

Примеры

[ПЛОХО] : Ты уверен? Пересчитай ещё раз. Попробуй другой подход. — одна и та же модель, один и тот же системный сдвиг, переголосование за ту же ошибку.
[ХОРОШО] : Один и тот же промпт в три разных окна по очереди — Задача: текущая цена 1990 ₽/мес, отток 4%, 500 клиентов. Новая цена 2490 ₽/мес. При каком максимальном ежемесячном оттоке выручка не упадёт ниже текущей? Покажи расчёт по шагам и дай финальное число. Записываешь три ответа. Двое сошлись на 6,6% — это твой ответ. Третья дала 5% — смотришь где она ошиблась в шагах.
Источник: LLMs as a Jury: Cross-Model Consensus Can Outperform Process Reward Models for LLM Reasoning
ArXiv ID: 2607.10139 | Сгенерировано: 2026-07-14 04:32

Проблемы LLM

ПроблемаСутьКак обойти
Повторный опрос одной модели не снижает ошибкуПросишь модель ответить 5-10 раз. Надеешься что разброс вариантов выявит верное. Но модель ошибается одинаково во всех попытках. Ошибка коренится в обучении — она стабильна. Большинство голосов "выберет" неверную версию. Это работает против тебя, не за тебяЗадай вопрос разным моделям (Claude, ChatGPT, Gemini) по отдельности. Каждая ошибается по-своему. Верный ответ накапливает согласие. Неверные — разлетаются в разные стороны

Методы

МетодСуть
Кросс-модельный консенсус — жюри из разных семействЗадай один вопрос трём моделям из разных компаний (Anthropic, OpenAI, Google). Каждую — в отдельном чате, без доступа к ответам остальных. Запиши три ответа. Два-три совпали принимай. Все три разошлись копай глубже. Почему работает: модели из разных семейств обучены на разных данных разными командами. Их ошибки не связаны между собой. Неверные ответы "расходятся", верный — "притягивает" согласие. Когда да: математика, код, расчёты, фактические вопросы — везде где есть верный ответ. Когда нет: "какой заголовок лучше", "оцени этот текст" — нет объективно верного, консенсус ничего не значит. Ещё ограничение: если все модели учились на одних учебниках, могут разделять одно заблуждение
📖 Простыми словами

LLMsas a Jury: Cross-ModelConsensus Can Outperform Process RewardModelsforLLMReasoning

arXiv: 2607.10139

Суть метода в том, что современные нейронки — это не калькуляторы, а скорее очень эрудированные, но склонные к фантазиям эксперты. Когда ты просишь одну модель решить сложную задачу, она может выдать идеальный ответ, а может уверенно сесть в лужу из-за своих внутренних багов обучения. Главная проблема в том, что если ты попросишь ту же модель перепроверить себя пять раз, она, скорее всего, будет ходить кругами вокруг своей же ошибки. Это называется систематическим слепым пятном: модель искренне верит в свою версию реальности, даже если она в корне неверна.

Это работает как суд присяжных, где каждый заседатель — это отдельная нейронка из совершенно другой семьи. Представь, что ты задаешь вопрос не одному человеку, а собираешь в комнате выпускника МГУ, инженера из MIT и опытного дельца из Шанхая. Они не общаются друг с другом, не подсматривают в чужие черновики и не пытаются подстроиться под мнение соседа. Если три абсолютно разных разума, обученных на разных данных, пришли к одному и тому же числу — скорее всего, это и есть истина. Вероятность того, что все они ошиблись одинаковым способом, стремится к нулю.

На практике это выглядит как кросс-модельный консенсус. Ты берешь свой сложный запрос — например, расчет юнит-экономики для стартапа — и скармливаешь его одновременно ChatGPT, Claude и Gemini. Если ChatGPT говорит «поднимай цены», а Claude и Gemini в один голос кричат «не вздумай, разоришься», то верить стоит большинству. Исследование доказывает, что такой «коллективный разум» работает точнее, чем даже самые навороченные системы самопроверки внутри одной модели. Мнение толпы независимых экспертов бьет интеллект любого одиночки, каким бы умным он ни казался.

Этот подход — спасение для задач, где цена ошибки слишком высока, чтобы полагаться на авось. Тестировали метод на математике и логике, но принцип универсален: он применим для юридических консультаций, написания кода или стратегического планирования. Везде, где нет однозначного «правильно» в базе данных, а нужно именно дойти до ответа логическим путем. Разнообразие моделей — это твоя страховка от галлюцинаций и глупых ошибок, которые неизбежны у любой LLM в одиночку.

Короче, завязывай верить на слово одной нейронке, если на кону стоят реальные деньги или репутация. Вместо того чтобы мучить одну модель промптами «ты уверена?», просто собери консилиум из разных семейств. Это дороже и дольше, зато на выходе ты получаешь не просто текст, а верифицированный результат. Консенсус — это новый стандарт качества, и если модели сошлись в показаниях, значит, решению можно доверять. Остальное — лотерея.

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с