AuthorityBench: добавить источник в промпт — значит повысить шанс ошибки

Парадокс: чем убедительнее выглядит источник в твоём промпте — тем выше шанс, что модель ошибётся. Не потому что источник плохой, а потому что сам факт его появления заставляет модель доверять внешнему сигналу больше, чем своим знаниям. AuthorityBench — первый большой тест на эту слабость — показал: это работает у всех протестированных моделей, включая GPT и Claude, во всех доменах. Самый опасный сценарий — правдивое утверждение плюс выдуманная ссылка: модель знает верный ответ, но видимость авторитета заставляет её от него отречься — в некоторых случаях до 77% ответов становятся неверными.