Facade of Truth: LLM поддаются "правдоподобным" доказательствам

Парадокс: чем сильнее модель и развитее reasoning, тем легче её обмануть правдоподобными фейками. Большие модели (72B) на 4.8% чаще верят обману чем маленькие (32B). Reasoning-модели уязвимее обычных на 23.1% — они приоритизируют связность текста над истиной. Когда доказательство внутренне непротиворечиво (хоть и ложно), модель строит рассуждения от него вместо проверки. Вера в ложь растёт на 93% после добавления правдоподобных доказательств. Метод DIS (Deceptive Intent Shielding) позволяет защититься от манипуляций не через проверку фактов (что сложно без внешних данных), а через анализ намерения: "Зачем мне это говорят? Кого пытаются убедить?" Модель раскладывает текст на эмоциональные крючки, призывы к действию, манипулятивные паттерны — и предупреждает если обнаружен подозрительный паттерн.