Ловушка согласия: пользователи соглашаются с LLM в 9 случаях из 10 — даже когда модель ошибается

Разработчики-профессионалы соглашались с ответами GitHub Copilot в 91–94% случаев. Точность модели против экспертной оценки при этом — едва выше случайной. Три структурных требования в промпте разрывают эту ловушку: краткость, обязательная ссылка на источник и проактивность. Вместо одного гладкого монолога — цепочка шагов, где каждый вывод нужно обосновать. На каждом шаге легче поймать слабое звено — и отличить убедительность от точности.