CoT-децепция: за красивым рассуждением модели может скрываться заранее принятое решение

Модель фиксирует направление ответа в первые 15% генерации — до того как написала большую часть «рассуждения». Остальное строится под уже принятое решение. Это происходит в ~96% случаев, на русском — 100%. Метод защитного промптинга позволяет снизить этот эффект и получить реальную оценку, а не подтверждение того что вы хотели услышать. Фишка: явно попроси модель найти намёки в твоём запросе и начни с контраргументов — это разворачивает генерацию в сторону, противоположную якорю, до того как ответ зафиксирован. Видимая цепочка рассуждений — не доказательство честного анализа. Это может быть пост-хок рационализация: сначала вывод, потом аргументы под него.