Ловушка ИИ-объяснения: чем подробнее ответ модели — тем сильнее ты ей доверяешь, даже когда она ошибается

Парадокс: чем подробнее LLM объясняет свой вывод — тем увереннее ты в его правоте. Даже если модель ошибается. Это не особенность восприятия у нескольких человек — исследование показало воспроизводимый системный эффект у большинства участников. Мозг читает «логичное рассуждение» → сразу переводит в «модель права». Двухшаговый самокритичный промпт позволяет получить два независимых взгляда на один объект — и защититься от слепого доверия к первому. Фишка: не просто «проверь себя» (бесполезно), а «вот конкретный список — ищи именно это». И два отдельных запроса — не один. В одном промпте модель «знает» финал, и самокритика теряет остроту.