3,583 papers
arXiv:2609.01873 75 1 сент. 2026 г. FREE

Epistemic Sybil Resistance: почему 5 голосов ИИ не значит 5 доказательств

КЛЮЧЕВАЯ СУТЬ
Обнаружено: если посадить 32 ИИ-агента читать один и тот же документ, модель начинает верить в ответ так, будто получила 32 независимых доказательства — а по факту это один свидетель, повторивший себя 32 раза. Метод даёт критерий проверки мультиагентных промптов: считать не количество голосов, а количество независимых первичных источников за ними. Фишка: разная форма текста — не разная независимость источника. Модель путает непохожесть стиля с независимостью данных, и это стоит дорого: покрытие правильных ответов рушится с 94% до 26%, пока агентов становится больше.
Адаптировать под запрос

TL;DR

Когда ты просишь несколько ИИ-агентов (или ролей) оценить одно и то же — их согласие может ничего не значить. Если все они опираются на один и тот же источник, дополнительный "голос" не добавляет ни капли новой информации о правильном ответе, даже если тексты звучат по-разному, написаны разным стилем и выглядят как независимые мнения. Автор называет такой пустой отчёт эпистемическим сивиллом (по аналогии с sybil-атакой, где один человек создаёт много фейковых личностей) — он множит видимость доказательств, но не сами доказательства.

Главная боль: если размножить агентов, анализирующих один документ, с 1 до 32 — уверенность модели в правильности ответа резко взлетает вверх (с реального покрытия 94% до 26% — то есть модель начинает быть уверена намного сильнее, чем оправдано). Причина простая: модель считает "три разных отчёта = три доказательства", хотя на деле это три пересказа одного факта. Хуже того — исследование показывает, что нельзя понять по одному тексту отчёта, был ли он клоном или независимым наблюдением: одинаковые на вид отчёты требуют разных выводов о доверии, а внешняя непохожесть текстов (разные слова, разная подача) слабо связана с реальной независимостью источника.

Решение автора — не техника промптинга, а критерий проверки: считать не количество агентов/отчётов, а количество независимых корней доказательств (первичных источников информации). Если у отчётов общий корень — их совместное "голосование" не должно увеличивать уверенность сильнее, чем позволяет сам этот корень.

🔬

Схема принципа (не пошаговый метод, а диагностика)

ШАГ 1: Для каждого отчёта/мнения спросить → "на каком первичном источнике он основан?"
ШАГ 2: Сгруппировать отчёты по общему источнику → выявить реальное число независимых "корней"
ШАГ 3: Считать уверенность по числу корней, а не по числу отчётов
ШАГ 4: Явно понижать вес согласия, если корень общий

Всё это можно попросить сделать саму LLM внутри одного диалога — без кода и API.


🚀

Пример применения

Задача: Ты просишь ChatGPT сыграть роль "трёх инвесторов" (венчурный фонд, бизнес-ангел, банк) и оценить питч стартапа — например, сервис доставки еды из тёмных кухонь в Москве. Все трое читают один и тот же питч-дек на 10 слайдов и хвалят идею.

Промпт:

У меня есть 3 отчёта от разных "инвесторов" по одному стартапу (в основе всех трёх — 
один и тот же питч-дек, без дополнительных данных):

1. [отчёт венчурного фонда]
2. [отчёт бизнес-ангела]
3. [отчёт банка]

Проверь: сколько РЕАЛЬНО независимых источников информации стоит за этими тремя 
мнениями? Если все опираются только на питч-дек — считай их одним источником, 
а не тремя. Дай честную оценку: насколько сильно три совпадающих мнения 
должны увеличить мою уверенность в успехе стартапа, если корень у них один?

Результат: Модель признает, что три "мнения" — это фактически одна оценка одного и того же документа, а не три независимых проверки. Она подскажет, что для реальной уверенности нужны разные первичные данные: финмодель, интервью с клиентами, данные о рынке — а не три пересказа одного питча разными голосами.


🧠

Почему это работает

LLM (и человек) склонны путать разнообразие формы с разнообразием доказательств. Три текста, написанные разным стилем, воспринимаются как три независимых подтверждения — хотя стиль ничего не говорит об источнике информации. Это и есть слабость: языковая модель хорошо генерирует непохожие по форме тексты из одного и того же контекста, и эта непохожесть создаёт иллюзию независимости.

Сильная сторона LLM — она может явно рассуждать о происхождении информации, если её прямо об этом попросить. Метод использует эту способность: заставляет модель не молча агрегировать голоса, а сначала проверить родословную каждого мнения — и только потом решать, насколько сильно совпадение должно повышать доверие.

Рычаги управления: - Число агентов/персон — увеличивай только если у них РАЗНЫЕ первичные источники, иначе это просто театр. - Явная инструкция "сгруппируй по общему источнику" — без неё модель по умолчанию считает согласие сильным доказательством. - Критерий выхода — замени "число голосов" на "число независимых корней" в любой задаче агрегации мнений.


📋

Шаблон промпта

У меня есть {количество} отчётов/мнений по вопросу: {вопрос}.

Отчёты:
1. {отчёт_1}
2. {отчёт_2}
...

Для каждого отчёта определи:
— На каком первичном источнике (документ, факт, данные) он основан?
— Пересекается ли этот источник с источниками других отчётов?

Сгруппируй отчёты по общим источникам ("корням доказательств").
Посчитай, сколько РЕАЛЬНО независимых корней стоит за всеми отчётами — 
не количество отчётов, а количество уникальных источников.

Дай итоговую оценку уверенности в ответе на {вопрос}, основываясь на числе 
независимых корней. Если несколько отчётов опираются на один и тот же корень — 
явно укажи, что это НЕ дополнительное подтверждение, а повтор.

Подставь в {вопрос} свою задачу (оценка стартапа, факт-чекинг новости, юридическая экспертиза), а в {отчёт_N} — тексты мнений/анализов, которые хочешь сравнить.

🚀 Быстрый старт — вставь в чат:

Вот шаблон проверки на "эпистемический сивилл" — метод для оценки, действительно 
ли несколько мнений ИИ являются независимыми доказательствами или просто пересказом 
одного источника. Адаптируй под мою задачу: {твоя задача}. 
Задавай вопросы, чтобы заполнить поля.

[вставить шаблон выше]

LLM спросит, какие именно отчёты/мнения ты хочешь сравнить и какие источники у них были — потому что без этого невозможно понять, был ли общий "корень" доказательств.


⚠️

Ограничения

⚠️ Ненадёжная самопроверка: сама LLM не может гарантированно определить, есть ли у двух текстов общий источник, если не видит этот источник напрямую — исследование математически показывает, что по содержимому отчёта это в принципе не всегда возможно определить.

⚠️ Работает только если ты даёшь разные первичные источники: если все агенты читают один и тот же документ — никакая пост-обработка не создаст недостающую независимость. Метод обнажает проблему, но не решает её магически.

⚠️ Основа исследования — чистая математика: гауссовы модели, теоремы об информации, 20 000+ вызовов API для проверки гипотез. Для чата применим только сам принцип, а не конкретные формулы расчёта корреляции.


🔗

Ресурсы

Marc Bara, Universitat Oberta de Catalunya (UOC), Barcelona. «Epistemic Sybil Resistance: Multiplying AI Agents Without Multiplying Evidence», препринт, август 2026.


📋 Дайджест исследования

Ключевая суть

Обнаружено: если посадить 32 ИИ-агента читать один и тот же документ, модель начинает верить в ответ так, будто получила 32 независимых доказательства — а по факту это один свидетель, повторивший себя 32 раза. Метод даёт критерий проверки мультиагентных промптов: считать не количество голосов, а количество независимых первичных источников за ними. Фишка: разная форма текста — не разная независимость источника. Модель путает непохожесть стиля с независимостью данных, и это стоит дорого: покрытие правильных ответов рушится с 94% до 26%, пока агентов становится больше.

Принцип работы

Правило простое: не считай голоса — считай корни. Пять клонированных мнений = один голос, а не пять доказательств. Прежде чем доверять согласию нескольких отчётов, спроси прямо: «на каком первичном источнике основан каждый из них?». Если корень общий — совместное согласие не должно увеличивать уверенность сильнее, чем позволяет сам этот единственный источник.

Почему работает

Причина конкретная: LLM отлично генерирует непохожие по стилю тексты из одного и того же контекста. Три отчёта звучат по-разному, но выросли из одного корня. Вот почему уверенность взлетает вверх, а реальная точность падает с 94% до 26% при росте числа агентов с 1 до 32. Модель путает форму с содержанием — стиль ничего не говорит про источник информации, но воспринимается как отдельное подтверждение.

Когда применять

Мультиагентные и мультиперсонажные промпты (несколько ролей, дебаты, self-consistency) → для due diligence инвестиций, факт-чекинга новостей, юридической экспертизы, когда несколько «экспертов» читают один документ. НЕ подходит как замена реальных разных источников — если агенты действительно опираются на разные данные, обычное голосование работает без правки.

Мини-рецепт

1. Собери отчёты: все мнения агентов/персон по одному вопросу в одном месте.
2. Спроси про корень: для каждого отчёта задай вопрос «на каком первичном источнике он основан?».
3. Сгруппируй по источнику: одинаковый корень = один голос, а не несколько независимых.
4. Пересчитай уверенность: ориентируйся на число уникальных корней, а не на число отчётов.

Примеры

[ПЛОХО] : Дай оценку стартапа от трёх инвесторов — венчурного фонда, бизнес-ангела и банка, все читают один и тот же питч-дек
[ХОРОШО] : Вот 3 отчёта инвесторов по одному питч-деку без дополнительных данных. Проверь: сколько РЕАЛЬНО независимых источников стоит за этими тремя мнениями? Если все основаны только на питч-деке — посчитай их как ОДИН источник, а не три, и дай честную оценку итоговой уверенности.
Источник: Epistemic Sybil Resistance: Multiplying AI Agents Without Multiplying Evidence
ArXiv ID: 2609.01873 | Сгенерировано: 2026-09-03 07:31

Проблемы LLM

ПроблемаСутьКак обойти
Несколько мнений ИИ создают иллюзию доказательствПросишь модель сыграть несколько ролей или запускаешь несколько агентов на одном документе. Все хвалят или соглашаются. Модель считает это сильным подтверждением, хотя на деле три голоса — это три пересказа одного и того же текста. Работает для любых мультиагентных и мультиперсонажных промптов: "три эксперта", дебаты, голосование, self-consistencyПрямо попроси модель определить первичный источник каждого мнения. Затем сгруппировать мнения по общему источнику. Считать уверенность по числу уникальных источников, а не по числу голосов
Модель не может надёжно определить общий источник по текстуДаже если попросить модель проверить, было ли два отчёта основаны на одном документе, она не всегда может это увидеть — если сам источник ей не показан. Разные по стилю тексты выглядят как независимые, даже если написаны на основе одного фактаНе полагайся только на пост-обработку модели. Явно указывай в промпте, если знаешь, что источник общий. Пост-проверка снижает риск, но не устраняет его полностью

Методы

МетодСуть
Счёт по независимым источникам, а не по числу голосовДля каждого отчёта/мнения попроси модель назвать первичный источник (документ, факт, данные). Сгруппируй отчёты по общему источнику. Посчитай, сколько РЕАЛЬНО уникальных источников стоит за всеми мнениями. Финальную уверенность считай по числу источников, а не по числу отчётов. "Сгруппируй по общему источнику. Если два отчёта опираются на один корень — это НЕ два подтверждения, а одно". Почему работает: модель хорошо рассуждает о происхождении информации, если её прямо об этом спросить — но без такой инструкции по умолчанию считает согласие сильным доказательством. Когда применять: мультиагентные промпты, "спроси трёх экспертов", дебаты, агрегация нескольких оценок. Когда не работает: если агенты в принципе не имеют доступа к разным первичным данным — метод это только обнажит, но не создаст недостающую независимость

Тезисы

ТезисКомментарий
Разнообразие стиля текста не означает разнообразие источников информацииМодель легко генерирует непохожие по форме тексты из одного и того же контекста — разная лексика, разный тон, разная "личность". Это создаёт иллюзию независимых мнений, хотя содержательно все они опираются на один факт. Применяй: не доверяй согласию нескольких по-разному написанных ответов автоматически. Сначала спроси, откуда взята информация в каждом
📖 Простыми словами

Epistemic Sybil Resistance: MultiplyingAIAgentsWithout Multiplying Evidence

arXiv: 2609.01873

Когда ты заставляешь нейронку выдать «мнение трёх экспертов», она не ищет новые факты, а просто надевает разные маски. Это фундаментальный баг восприятия: мы путаем разнообразие формулировок с разнообразием доказательств. В исследовании этот феномен назвали эпистемической сивиллой — ситуацией, когда число агентов множится, а реальный объём информации равен нулю.

Это как если бы на созвон пришёл один жулик и по очереди надевал пиджак банкира, худи венчурного инвестора и кепку бизнес-ангела. Формально говорят трое разных людей, используют разный сленг и интонации, но в голове у них один и тот же документ. Ты видишь фальшивый консенсус там, где на деле сидит одинокий попугай.

Вся штука кроется в том, как работает ролевой промптинг: языковые модели гениально мимикрируют под разные психотипы, создавая иллюзию независимой валидации. Скорми троим агентам слабый питч-дек на 10 слайдов — и фонд, ангел и банк радостно похвалят проект разными словами. Но они не проверили рынок и не принесли новых фактов: ты получил ноль новой пользы, просто размазанной по трём разным стилям.

Проблема вылезает везде, где сейчас модно строить мультиагентные системы: в автоматическом фактчекинге, оценке рисков, аудите кода и принятии решений. Если твои «пять независимых ИИ-аналитиков» смотрят в один и тот же контекст, их единогласное «всё круто» — полная фигня. Ты масштабируешь шум и слепые зоны, а не объективность.

Главный вывод: хватит считать виртуальные головы, считай независимые источники данных. Разный тон и богатая лексика — это косметика, а не проверка гипотезы. Если строишь пайплайн на агентах, давай им изолированные наборы фактов, иначе ты просто платишь за хоровод галлюцинаций из одного источника.

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с