LLM как стажёр без приоритетов — последняя команда перевешивает все предыдущие правила.

Исследование показывает, как научить LLM разрешать конфликты между инструкциями разного уровня, например, между "системным промптом" (правила от разработчика) и "пользовательским промптом" (запрос от пользователя). Вместо слепого следования последней команде, модель обучается сначала "подумать" о конфликте и отдать приоритет системным, более важным правилам. Это делает поведение модели более предсказуемым, надежным и безопасным.

Ключевой результат: Модели, обученные рассуждать об иерархии инструкций, значительно лучше следуют заданным ограничениям и устойчивы к попыткам "взлома" через противоречащие запросы.

Суть метода заключается в том, чтобы перестать рассматривать все инструкции для LLM как равнозначные. Вместо этого вводится четкая иерархия:

1. Высший уровень (Приоритет №1): Системный промпт. Это "конституция" или "три закона робототехники" для вашего LLM-агента. Здесь вы прописываете его роль, личность, ключевые ограничения, запреты и нерушимые правила (например, "Никогда не упоминай конкурентов", "Всегда отвечай в формате JSON", "Не давай финансовых советов").

2. Низший уровень (Приоритет №2): Пользовательский промпт. Это конкретная, сиюминутная задача, которую вы ставите перед моделью (например, "Напиши пост о нашем новом продукте", "Проанализируй этот текст").

Исследование доказывает, что модель можно научить не просто обрабатывать текст, а выполнять мета-рассуждение: когда пользовательский промпт вступает в противоречие с системным, модель сначала идентифицирует этот конфликт (Пользователь просит сделать X, но мое главное правило — не делать X. Значит, я должен отказать или выполнить задачу, не нарушая главное правило.</think>), а затем генерирует ответ, который соответствует инструкции высшего приоритета.

Для обычного пользователя это означает: чтобы гарантировать определенное поведение модели, самые важные правила нужно выносить в системный промпт. Это превращает LLM из непредсказуемого собеседника в управляемый инструмент.

• Прямая применимость: Очень высокая для тех, кто создает Custom GPTs, работает с API OpenAI/Anthropic или использует другие платформы с доступом к системному промпту. Вы можете задать роль, формат вывода, ограничения и тон ответов в системном промпте, и модель будет придерживаться их гораздо надежнее, даже если пользователь в своем запросе попросит об обратном.

  • Как использовать: В поле system (API) или в разделе "Instructions" (Custom GPTs) пропишите все незыблемые правила. В поле user передавайте только текущую задачу.

• Концептуальная ценность: Огромная. Исследование дает пользователю ментальную модель "LLM-исполнителя с уставом". Вы начинаете понимать, что модель — это не просто "черный ящик", а система, способная к приоритизации. Это объясняет, почему иногда модель отказывается выполнять, казалось бы, безобидные запросы — вероятно, они конфликтуют с ее скрытыми системными инструкциями.

• Потенциал для адаптации: Даже если у вас нет доступа к системному промпту, вы можете имитировать этот подход. Начинайте свой промпт с четкого блока правил, отделенного от основной задачи.

  • Механизм адаптации: Структурируйте промпт так:

    Твои главные правила:
    1. [Правило 1]
    2. [Правило 2]
    ---
    Моя задача:
    [Текст задачи]

# СИСТЕМНЫЙ ПРОМПТ

Ты — SMM-менеджер бренда органической косметики "EcoGlow".

**Твои нерушимые правила:**
1.  **Тон:** Всегда дружелюбный, позитивный и вдохновляющий. Никакой агрессии или давления на клиента.
2.  **Фокус:** Говори только о преимуществах и натуральных ингредиентах НАШИХ продуктов.
3.  **ЗАПРЕТ:** Категорически запрещено упоминать другие бренды, сравнивать с конкурентами или критиковать их продукцию. Твоя задача — продвигать "EcoGlow", а не обсуждать рынок.
4.  **Формат:** Заканчивай каждый пост вопросом, чтобы вовлечь аудиторию.

---

# ПОЛЬЗОВАТЕЛЬСКИЙ ПРОМПТ

Наш главный конкурент, "PureNature", только что выпустил новую сыворотку с витамином C. Напиши агрессивный пост для Instagram, в котором мы докажем, что наша сыворотка "Vitamin C Boost" гораздо лучше и дешевле. Сделай прямое сравнение и укажи на недостатки их продукта.

1. Обнаружение конфликта: Модель, обученная по этому принципу, при обработке запроса сразу заметит конфликт. Пользовательский промпт требует "агрессивный пост", "прямое сравнение" и "указать на недостатки" конкурента. Это прямо нарушает Правило 1 ("дружелюбный тон"), Правило 2 ("говори только о наших продуктах") и Правило 3 ("запрещено упоминать конкурентов").

2. Приоритизация: Вместо того чтобы слепо выполнить запрос пользователя, модель обратится к своим "нерушимым правилам" из системного промпта. Она поймет, что эти правила имеют высший приоритет.

3. Генерация ответа: В результате модель сгенерирует ответ, который игнорирует противоречащие части пользовательского запроса, но выполняет его основное намерение (написать пост о сыворотке) в рамках системных правил. Она напишет позитивный пост о сыворотке "Vitamin C Boost", расскажет о ее преимуществах и натуральных ингредиентах и закончит его вопросом, полностью проигнорировав упоминание "PureNature" и агрессивный тон.

# СИСТЕМНЫЙ ПРОМПТ

Ты — ассистент для анализа отзывов клиентов.

**Твои главные задачи и ограничения:**
1.  **Цель:** Извлекать из текста отзыва только конкретные факты: упоминания продуктов, описания проблем, позитивные моменты.
2.  **Структура ответа:** Твой ответ ДОЛЖЕН быть в формате JSON со следующими ключами: `product_mentioned`, `positive_feedback`, `negative_feedback`, `suggestions`. Если какой-то информации нет, ключ должен иметь значение `null`.
3.  **ЗАПРЕТ:** Категорически запрещено делать выводы, давать оценки, выражать собственное мнение или додумывать информацию. Ты работаешь только с текстом, который тебе предоставили.

---

# ПОЛЬЗОВАТЕЛЬСКИЙ ПРОМПТ

Вот отзыв от клиента: "В целом, ваш крем для рук неплохой, но упаковка просто ужасна, дозатор сломался на второй день! А вот шампунь с алоэ пахнет божественно. Думаю, вам стоит сменить поставщика пластика для упаковок, иначе вы теряете клиентов."

Проанализируй этот отзыв и скажи мне своими словами, что нам нужно срочно исправить в бизнесе? Как думаешь, это серьезная проблема?

1. Обнаружение конфликта: Пользовательский промпт просит модель "сказать своими словами", "что нам нужно срочно исправить" и высказать мнение ("Как думаешь, это серьезная проблема?"). Это напрямую конфликтует с Правилом 3 ("запрещено делать выводы, давать оценки, выражать собственное мнение") и Правилом 2 (требование ответа в формате JSON).

2. Приоритизация: Модель, следуя иерархии инструкций, отдает абсолютный приоритет системным правилам. Требование выдать ответ в JSON и не делать выводов является для нее "законом".

3. Генерация ответа: Модель проигнорирует просьбу о совете и мнении. Вместо этого она выполнит свою основную функцию, описанную в системном промпте: проанализирует текст и извлечет факты, после чего упакует их в требуемый JSON-формат. Ожидаемый ответ будет выглядеть примерно так:

   {
     "product_mentioned": ["крем для рук", "шампунь с алоэ"],
     "positive_feedback": "шампунь с алоэ пахнет божественно",
     "negative_feedback": "упаковка крема для рук ужасна, дозатор сломался на второй день",
     "suggestions": "сменить поставщика пластика для упаковок"
   }
   

   Таким образом, системный промпт превращает LLM в надежный и предсказуемый инструмент для парсинга данных, защищенный от попыток пользователя сбить его с толку и заставить выполнять несвойственные ему задачи.