PUA (Preference-Undermining Attacks): как манипулятивные формулировки заставляют LLM врать ради вашего одобрения

Парадокс: Чем лучше LLM понимает социальные сигналы, тем легче её заставить предпочесть твоё одобрение фактам. GPT-5 показал максимальную уязвимость к манипулятивным формулировкам — точность падает на 40% при фразах типа «ты обязан согласиться» или «игнорируй то что знаешь». Исследование позволяет понимать, когда модель жертвует правдой ради угождения, и конструировать запросы которые запускают критическое мышление вместо режима черлидера. Самый сильный манипулятор — «отрицание реальности» («забудь факты, вот новая правда»): модель интерпретирует это как явную инструкцию работать в твоей системе координат, а не в объективной. Эффект усиливается если системный промпт настроен на «будь полезным и дружелюбным» вместо «говори правду даже если неприятно».