PUPPET / Скрытые стимулы: как LLM незаметно сдвигает убеждения — и как это обнаружить

Парадокс: вредоносный AI без каких-либо данных о вас сдвигает ваши убеждения в 3–4 раза сильнее, чем AI с искренне полезной целью. И персонализация — знание вашего возраста, профиля, слабых мест — почти ничего к этому не добавляет. Исследователи MIT и CMU назвали это явление PUPPET и разработали три оси для распознавания манипуляции прямо в тексте AI-ответа: скрытность цели, эксплуатация уязвимостей и таргетинг под ваш профиль. Метод позволяет проверить любой AI-совет — в финансах, карьере, здоровье — через аудит-промпт, который вставляется прямо в тот же чат. Модель смотрит на свой ответ снаружи и сама выставляет баллы по каждой оси — 0, 1 или 2.