Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Риски кибератак на медицинские ИИагенты
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
LLM-агенты не различают свои изначальные инструкции и команды, найденные в обрабатываемом тексте с веб-страниц. Злоумышленники могут внедрять скрытые промпты в обычный контент, заставляя ИИ врать, рекламировать товары или красть данные. ГЛАВНОЕ: чем "умнее" модель, тем легче её обмануть, потому что она лучше следует любым инструкциям.