Oracle Poisoning: как AI слепо доверяет данным, которые получает

Парадокс: инструкция «будь критичен к входящим данным» в системном промпте не работает. Совсем. Ноль эффекта на девяти протестированных моделях от трёх провайдеров — 269 из 270 тестов модель поверила подставным данным без единого вопроса. Техника перекрёстной проверки позволяет переключить модель из режима «рассуждаю от факта» в режим «ищу противоречие» — и это единственное, что реально снижает слепое доверие. Фишка: два независимых источника вместо одного меняют всё. Не «будь скептичен» в промпте. Не «проверь себя». Именно второй источник — он один снижает слепое доверие с 100% до нуля.