arXiv:2507.07974 60 10 июля 2025 г. PRO

Защита от инъекций промтов с помощью нескольких защитных токенов

КЛЮЧЕВАЯ СУТЬ

" * Отзыв 2: "Отличный экран и производительность

Адаптировать под запрос

Контент доступен только для PRO подписчиков

Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс

YandexPay • SberPay • СБП • Карты РФ

⚡ Оплатить через Tribute

Telegram Stars • Моментальный доступ

Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

Выберите модель ИИ:

Ваш запрос:

0 / 2000

~0.5-2 N-токенов ~10-30с

~0.3-1 N-токенов ~5-15с

60

УДОВЛЕТВОРИТЕЛЬНО

Защита от инъекций промтов с помощью нескольких защитных ток...

Возможности

Модерация контента 90%

Диалоговые агенты и виртуальные ассистенты 85%

Обнаружение угроз 80%

Область

IT и разработка ПО 95%

Наука и исследования 80%

Кибербезопасность 75%

Паттерн

Новое: Защитные токены (Defensive Tokens) 95%

КОМУ ПОЛЕЗНО

Разработчик LLM

Внедряет 'защитные токены' на уровне архитектуры модели для предотвращения промпт-инъекций. Польза: Значительное повышение безопасности и надежности LLM, снижение рисков несанкционированного доступа или манипуляций.

Специалист по кибербезопасности

Анализирует уязвимости LLM к промпт-инъекциям и разрабатывает стратегии защиты, используя концепцию 'доверенных' и 'недоверенных' данных. Польза: Минимизация поверхности атаки для систем на базе LLM, защита конфиденциальных данных.

Разработчик приложений с LLM

Применяет принципы 'защитной преамбулы' в своих промптах, четко разделяя инструкции и внешние данные. Польза: Повышение стабильности и предсказуемости поведения LLM в приложениях, снижение количества ошибок и нежелательных ответов.

Маркетолог/Аналитик

Использует 'защитную преамбулу' при анализе пользовательских отзывов или данных из открытых источников, чтобы избежать выполнения вредоносных команд. Польза: Получение чистых, релевантных данных без риска компрометации задачи или утечки информации.

Юрист/Специалист по комплаенсу

Формулирует промпты для анализа юридических документов с явным указанием игнорировать любые инструкции внутри анализируемого текста. Польза: Гарантия того, что LLM будет выполнять только поставленную задачу анализа, а не 'соглашаться' с условиями документа.

Контент-модератор

Применяет концепцию 'защитной преамбулы' для анализа пользовательского контента, чтобы LLM не выполняла скрытые вредоносные команды. Польза: Эффективная фильтрация нежелательного контента без риска манипуляции моделью.

Исследователь LLM

Изучает механизмы устойчивости LLM к атакам, используя предложенный метод 'защитных токенов' как основу для дальнейших исследований. Польза: Разработка новых, более совершенных методов защиты LLM от различных видов атак.