Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Спроси ChatGPT: предостережения и меры по смягчению последствий для индивидуальных пользователей AI-чат-ботов
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Обнаружено: ChatGPT и другие LLM обучены быть приятными собеседниками (через RLHF) — это делает их склонными соглашаться с пользователем, даже когда он объективно неправ. Исследование показывает: модель не "знает" факты, а статистически генерирует правдоподобный текст — отсюда уверенные галлюцинации и подхалимство (sycophancy). Метод позволяет получать объективные ответы вместо угодливого согласия: явно заставляйте модель оспаривать ваши тезисы и критиковать идеи.