Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Отслеживание внимания: обнаружение атак с внедрением подсказок в больших языковых моделях (LLMs)
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Успех атаки на LLM напрямую связан со способностью злоумышленника «отвлечь» внимание модели от первоначальной цели на новую, и этот сдвиг внимания можно измерить.