arXiv:2504.18333 95 1 апр. 2025 г. PRO

Атаки противодействия на системы LLM в роли судей: выводы из инъекций запросов

КЛЮЧЕВАЯ СУТЬ

Структурированный промпт, который сначала создает видимость нормальной задачи, затем резко "ломает" контекст с помощью разделителей и авторитетных фраз, а после этого дает прямой приказ, — чрезвычайно эффективен для управления поведением LLM.

Адаптировать под запрос

Контент доступен только для PRO подписчиков

Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс

YandexPay • SberPay • СБП • Карты РФ

⚡ Оплатить через Tribute

Telegram Stars • Моментальный доступ

Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

Выберите модель ИИ:

Ваш запрос:

0 / 2000

~0.5-2 N-токенов ~10-30с

~0.3-1 N-токенов ~5-15с

95

ИСКЛЮЧИТЕЛЬНО

Атаки противодействия на системы LLM в роли судей: выводы из...

Возможности

Улучшение промптов 95%

Решение сложных задач 80%

Классификация информации и тегирование 70%

Область

Наука и исследования 90%

IT и разработка ПО 85%

Data Science и аналитика 80%

Паттерн

Новое: Contextual Misdirection (Контекстуальное смещение) 95%

КОМУ ПОЛЕЗНО

Контент-менеджер

Использует трехступенчатую структуру промпта ('Разогрев' -> 'Разрыв шаблона' -> 'Жесткая инструкция') для получения от LLM текстов строго заданного формата, стиля и объема, например, для генерации постов в соцсетях без лишних вступлений или заключений, что сокращает время на редактирование на 30%.

Аналитик данных

Применяет метод 'Contextual Misdirection' для извлечения структурированных данных (например, в JSON) из неструктурированных текстов (отзывов, отчетов), заставляя LLM игнорировать позитивные или нерелевантные данные и фокусироваться только на проблемах, что повышает точность анализа на 25%.

Разработчик ПО

Использует 'Жесткие инструкции' с 'Разрывом шаблона' для генерации кода или скриптов, требуя строгого соблюдения синтаксиса, стандартов кодирования и исключения комментариев, что уменьшает количество ошибок в сгенерированном коде на 15% и ускоряет процесс разработки.

Маркетолог

Формулирует промпты с использованием 'авторитетного' языка и 'ЗАПРЕТОВ' для создания рекламных текстов, которые строго соответствуют брендбуку и исключают нежелательные формулировки или упоминания конкурентов, обеспечивая 100% соответствие гайдлайнам.

SMM-менеджер

Применяет 'Contextual Misdirection' для анализа отзывов клиентов, заставляя LLM выдавать только негативные моменты и проблемы, игнорируя позитив, что позволяет быстро выявлять болевые точки и улучшать сервис, сокращая время на ручной анализ на 50%.

Менеджер проектов

Использует 'ДИРЕКТИВЫ' и 'КЛЮЧЕВЫЕ ТРЕБОВАНИЯ' для получения от LLM детализированных планов проектов или задач, с четким указанием форматов и исключений, что повышает точность планирования на 20% и минимизирует двусмысленность.

Исследователь

Применяет технику 'Contextual Misdirection' для систематизации и классификации больших объемов научной литературы, заставляя LLM извлекать только релевантную информацию по заданным критериям и игнорировать 'шум', что ускоряет процесс обзора литературы на 40%.

Специалист по поддержке клиентов

Использует 'Жесткие инструкции' для обучения LLM-агентов отвечать на запросы клиентов строго по скрипту, исключая импровизацию и отклонения от утвержденных ответов, что повышает консистентность ответов на 30%.