Иерархия источников в LLM: как модели выбирают между противоречивыми фактами

LLM не выбирают случайно между противоречивыми фактами. Модель следует строгой иерархии доверия: правительство > газета > человек > соцсети. Дай две таблицы с противоречащими данными, одну подпиши «Министерство», другую «@user123 (Reddit)» — модель почти всегда выберет официальный источник. Это позволяет контролировать какой факт модель предпочтёт при противоречиях в контексте, просто указав источники явно. Но есть парадокс. Повтори информацию из ненадёжного источника один раз — и иерархия переворачивается. Два одинаковых твита с одним фактом побеждают единственное правительственное заявление с другим фактом. Модель реагирует не на большинство источников, а на repetition bias (повторение токенов). Решение: credibility prompting — добавь одну строчку "оцени надёжность источников перед ответом", и вероятность корректного выбора растёт на 30-40%.