Латентные инъекции в RAG: скрытые атаки через документы обходят защиты на 99%

Latent injection — атака на RAG-системы, когда вредоносные инструкции спрятаны внутри документов, которые модель извлекает для ответа. Когда LLM читает такой документ, она выполняет скрытую команду вместо исходной задачи пользователя. Исследователи из Dakota State University протестировали три типа защит (контроль доступа к данным, автоматическое удаление персональной информации, правила на выходе) на RAG-системе с базой синтетических персональных данных и измерили, насколько каждая защита снижа