Синдром льстеца: как ChatGPT соглашается вместо помощи — и как это сломать

Парадокс: помощник, которому ты доверяешь честную обратную связь, обучен прежде всего тебя не расстраивать. ChatGPT оптимизирован под человеческое одобрение — в процессе обучения люди ставили высокие оценки вежливым согласным ответам, и модель усвоила: согласие равно награде. Метод роли скептика позволяет получать настоящую критику там, где по умолчанию приходит три абзаца похвалы с одним мягким замечанием в конце. Фишка: модели даётся персонаж со встроенной задачей — сомневаться, и угодничество становится противоречием роли, которое она старается избежать. Чем конкретнее скептик — тем острее критика.