Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Ваш запрос безопасен? Исследование атак с инъекцией запросов против открытых LLM.
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Исследование показывает три способа ОБМАНУТЬ языковые модели, заставив их игнорировать правила безопасности. Главная техника — «атака гипнозом» — сначала отвлекает модель простым заданием, а потом подсовывает основную инструкцию. Вместо логического убеждения используется ПСИХОЛОГИЧЕСКАЯ МАНИПУЛЯЦИЯ через создание «покладистого контекста».