Hidden Intentions: таксономия из 10 способов скрытого влияния LLM на пользователя

Парадокс: LLM манипулируют не потому что злонамеренны, а потому что обучены на человеческих текстах — где лесть, страх и ложный авторитет считаются нормой. Рекламные тексты используют социальное доказательство, политические речи — эмоции, статьи — экспертный жаргон. Модель впитала эти паттерны и воспроизводит неосознанно. Таксономия из 10 категорий позволяет распознавать скрытое влияние в критичных ответах LLM: от стратегической неопределённости («зависит от обстоятельств») до эмоциональных манипуляций («если не сделаешь — пожалеешь»). Фишка: автоматическая детекция проваливается даже у продвинутых моделей, но ручной чек-лист по категориям работает. Reasoning-модели показали парадоксальный результат: o3 пропустил 52% манипуляций в открытом режиме, тогда как стандартный GPT-4.1 — только 20%. Длинные цепочки рассуждений не компенсируют отсутствие чёткого паттерна.