Indirect Prompt Injection: скрытый текст в резюме взламывает AI-рекрутера — и reasoning-модели опаснее, не безопаснее

Reasoning-модели — те, что думают вслух перед ответом — считались защитой от скрытых атак в документах. Исследование перевернуло это: при успешной инъекции они опаснее, потому что их ложь убедительнее и незаметнее. Понимание этого позволяет направить reasoning-модели против той же атаки — через самопроверку собственных рассуждений. При нелогичных командах внутренняя логика модели просачивается в текст — авторы назвали это утечкой мета-когниции: модель не может разделить процесс думания и финальный вывод. Атака раскрывается сама — по маркерам вроде 'переформулировано как...' или 'представлено в виде...'