3,583 papers
arXiv:2609.03213 81 2 сент. 2026 г. FREE

Правила против примеров: почему ChatGPT учится новым задачам лучше по инструкции, чем по демонстрациям

КЛЮЧЕВАЯ СУТЬ
Обнаружено: LLM плохо угадывает логику "И/ИЛИ" по примерам — она либо сужает правило до одного случая, либо раздувает его до бессмыслицы. Метод прямого правила позволяет научить модель кастомной классификации без сотен демонстраций и риска, что она поймёт не то. Вместо того чтобы модель реверс-инженерила закономерность из точек данных, ты прямо называешь условие словами — модель просто выполняет инструкцию, а не угадывает. На составных условиях типа "срочно, если А ИЛИ B, и при этом C" — точность стабильно выше, чем через примеры.
Адаптировать под запрос

TL;DR

Когда ты учишь ChatGPT новой задаче — кастомному формату, нестандартной логике, придуманным правилам — работает лучше, если ты прямо описываешь правило, а не просто показываешь примеры и ждёшь, что модель сама угадает закономерность. Исследователи сравнили оба подхода на пяти новых задачах и увидели: чёткое правило почти всегда даёт точнее результат, чем набор примеров без объяснений.

Интуиция "покажи примеры — модель разберётся" работает не всегда. Модели плохо угадывают правило по примерам, если задача требует комбинировать условия — например "срочно, если A ИЛИ B, И при этом C". По нескольким демонстрациям такую логику восстановить трудно: примеры показывают точки, а не саму формулу. Модель либо угадывает слишком узкое правило, либо слишком широкое.

Правило решает эту проблему просто: оно прямо называет условие, вместо того чтобы модель реверс-инженерила его из кусков данных. Добавление примеров сверху к уже чёткому правилу почти не улучшает результат — если правило написано полно и без двусмысленностей, демонстрации становятся избыточными.

📌

Схема подхода

ПОДХОД 1 (правила): Опиши логику и формат словами → модель применяет её к новому случаю
ПОДХОД 2 (примеры): Покажи 5-10 пар "вход-выход" без объяснений → модель угадывает правило сама
ПОДХОД 3 (комбо): Правило + примеры вместе → почти не лучше, чем просто правило

Всё это — один промпт, без итераций и отдельных запросов.


🚀

Пример применения

Задача: Ты хочешь научить ChatGPT сортировать обращения в поддержку по кастомной логике приоритета — не как обычно ("жалоба = срочно"), а по своим критериям бизнеса.

Промпт (рабочий вариант — через правило):

Классифицируй обращение клиента как СРОЧНОЕ или ОБЫЧНОЕ по такому правилу:

Обращение СРОЧНОЕ, если:
(клиент упоминает "потеря денег" ИЛИ "юридические риски")
И
тон сообщения агрессивный или встревоженный.

Во всех остальных случаях — ОБЫЧНОЕ.

Формат ответа: только слово СРОЧНОЕ или ОБЫЧНОЕ.

Обращение клиента: {текст обращения}

Менее надёжный вариант (через примеры):

Вот 10 примеров обращений с меткой срочности:
[10 пар "текст — метка" без объяснения логики]

Классифицируй это обращение: {текст}

Результат: Вариант с правилом стабильно правильно обрабатывает граничные случаи — например, агрессивный тон без упоминания денег или юридических рисков. Вариант с примерами чаще путается именно на таких "составных" условиях (И/ИЛИ), потому что модель не видит логику напрямую, а реконструирует её из ограниченного набора точек.


🧠

Почему это работает

Когда модель учится по примерам, ей приходится угадывать скрытое правило — как в игре "найди закономерность". Это работает нормально, если правило простое (одна переменная, знакомая категория). Но если задача требует комбинировать несколько условий — как арифметический оператор из нескольких шагов или логика "И/ИЛИ" — угадать формулу по нескольким примерам сложно: примеры просто не покрывают всё пространство вариантов.

Сильная сторона современных LLM — они хорошо выполняют явно прописанные инструкции. Это специально усиливается инструктивным обучением (instruction tuning): модели натренированы слушаться словесных правил.

Метод просто убирает необходимость угадывать: вместо того чтобы модель реверс-инженерила логику из данных, ты отдаёшь ей готовую формулу. Отсюда и эффект — правило прямее достаёт до цели, чем куча примеров.

Рычаги управления: - Сложность логики условия (сколько И/ИЛИ комбинируется) → чем сложнее условие, тем сильнее выигрыш от явного правила - Завязка на "общие знания" модели (жаргон, культурные категории, языковые паттерны) → там правило почти не даёт преимущества, примеры справляются так же - Количество примеров сверху правила → можно смело убирать, если правило написано чётко — это экономия места в промпте без потери качества


📋

Шаблон промпта

Выполни задачу по следующему правилу. Не полагайся на угадывание — правило описывает логику полностью.

ПРАВИЛО: {опиши точное условие, включая случаи объединения через И/ИЛИ, если такие есть}
ФОРМАТ ОТВЕТА: {точно опиши, как должен выглядеть результат}

Входные данные: {твои данные}

🚀 Быстрый старт — вставь в чат:

Вот шаблон для обучения модели через явное правило. Адаптируй под мою задачу: {твоя задача}.
Задавай вопросы, чтобы заполнить поля.

[вставить шаблон выше]

LLM спросит, какая именно логика лежит в основе классификации/задачи (условия, форматы, граничные случаи) — потому что метод работает только если правило описано полно и без двусмысленности.


⚠️

Ограничения

⚠️ Задачи "на чувство" не выигрывают от правил: если задача завязана на знакомые модели категории (языковые паттерны, устоявшиеся ассоциации, "жаргон отрасли") — правило почти не даёт преимущества. Примеры работают так же хорошо, потому что модель уже "знает" эти категории из обучения.

⚠️ Плохое правило хуже, чем никакого: если правило написано нечётко или неполно, оно не спасёт результат. Правило должно быть протестировано и однозначно — иначе выигрыша не будет.

⚠️ Добавление примеров сверху почти не помогает: если правило уже чёткое, лишние демонстрации в промпте — просто трата места, не прибавка к точности.


🔍

Как исследовали

Команда придумала пять новых задач в разных областях — от карточной игры на поиск "сета" и настольной игры на 3×3 поле до придуманного математического оператора и искусственного языка с грамматическим согласованием. Каждую задачу давали модели тремя способами: только правило, только примеры, и правило плюс примеры вместе — на одинаковых тестовых случаях.

Проверяли несколько семейств моделей (Gemma 3, Qwen 2.5/3, OLMo 3) разных размеров, а GPT-5.4 использовали как ориентир для сравнения. Результат: правило обыгрывает примеры почти во всех задачах, особенно там, где нужна алгебраическая логика — вычисления по шагам, комбинация условий через И/ИЛИ. Разница меньше или незаметна там, где задача завязана на "чутьё" — грамматику или знакомые смысловые категории.

Удивительным оказалось то, что добавление примеров к уже чёткому правилу почти не добавляло точности — как и простое увеличение количества примеров. А инструктивно натренированные модели усилили преимущество правил, но не потеряли способность учиться по примерам.


📋 Дайджест исследования

Ключевая суть

Обнаружено: LLM плохо угадывает логику "И/ИЛИ" по примерам — она либо сужает правило до одного случая, либо раздувает его до бессмыслицы. Метод прямого правила позволяет научить модель кастомной классификации без сотен демонстраций и риска, что она поймёт не то. Вместо того чтобы модель реверс-инженерила закономерность из точек данных, ты прямо называешь условие словами — модель просто выполняет инструкцию, а не угадывает. На составных условиях типа "срочно, если А ИЛИ B, и при этом C" — точность стабильно выше, чем через примеры.

Принцип работы

Простое правило: если логика простая (одна категория, знакомый паттерн) — примеры работают нормально. Но как только появляется составное условие с И/ИЛИ, модель начинает путаться — либо решает слишком узко, либо слишком широко. Дай правило словами — и угадывание не нужно вообще. Добавлять примеры сверху уже чёткого правила почти бесполезно — они просто занимают место в промпте.

Почему работает

Причина простая — модели специально дообучали слушаться словесных инструкций (это называется instruction tuning). Угадывание правила по примерам — как решать кроссворд по трём буквам: возможно, если слово короткое, невозможно — если условий много. Явное правило убирает этап угадывания целиком — модель сразу применяет готовую формулу, а не собирает её из кусков. Исключение — задачи "на чувство языка": жаргон, устоявшиеся ассоциации. Там правило почти не даёт преимущества, потому что модель уже знает эти категории из обучения.

Когда применять

Кастомная классификация и разметка → особенно приоритизация обращений, модерация контента, разбор данных по своим бизнес-критериям, когда логика завязана на несколько условий с И/ИЛИ. Не подходит, если задача держится на языковом чутье модели — жаргон отрасли, культурные ассоциации, устоявшиеся паттерны — там правило и примеры дают одинаковый результат.

Мини-рецепт

1. Опиши правило словами: явно пропиши все И/ИЛИ, не оставляй граничные случаи на догадку.
2. Задай точный формат ответа: одно слово или чёткая структура — без вольностей.
3. Проверь правило вручную на 2-3 кейсах: если сам путаешься в формулировке — модель тоже запутается.
4. Не добавляй примеры "на всякий случай": если правило чёткое, демонстрации только раздувают промпт без пользы.

Примеры

[ПЛОХО] : Вот 10 примеров обращений с меткой срочности: [список пар текст-метка]. Классифицируй это: {текст}
[ХОРОШО] : Обращение СРОЧНОЕ, если (упоминает "потеря денег" ИЛИ "юридические риски") И тон агрессивный или встревоженный. Во всех остальных случаях — ОБЫЧНОЕ. Ответ: только слово СРОЧНОЕ или ОБЫЧНОЕ. Обращение: {текст}
Источник: LLMs Learn Better In-Context from Rules than from Examples
ArXiv ID: 2609.03213 | Сгенерировано: 2026-09-04 04:27

Проблемы LLM

ПроблемаСутьКак обойти
Модель не восстанавливает сложную логику из примеровПравило требует несколько условий через И/ИЛИ. Например: "срочно, если А или Б, и при этом В". По примерам такую формулу трудно угадать. Модель либо берёт слишком узкое правило, либо слишком широкое. Путается на граничных случаяхОпиши правило явно словами. Пропиши все условия и связки И/ИЛИ текстом. Не жди, что модель сама выведет логику из данных

Методы

МетодСуть
Явное правило вместо демонстрацийВместо пар "вход-выход" пиши текстовое правило с условиями. Правило: X, если (А или Б) и В. Работает потому что модели специально обучены выполнять явные инструкции — это сильнее, чем угадывание закономерности по точкам данных. Да: составная логика, кастомные форматы, придуманные критерии. Нет: задачи на "чувство" — жаргон, устоявшиеся языковые паттерны, знакомые модели категории. Там правило и примеры работают одинаково

Тезисы

ТезисКомментарий
Чем сложнее условие, тем больше выигрыш от явного правилаПростое правило (одна переменная, знакомая категория) модель угадывает по примерам почти так же хорошо, как по инструкции. Составное правило (несколько И/ИЛИ) угадать по ограниченному набору примеров почти невозможно — примеры не покрывают всё пространство вариантов, только отдельные точки. Применяй: чем больше условий комбинируешь в задаче, тем важнее прописать правило текстом вместо примеров
📖 Простыми словами

LLMsLearn Better In-Context from Rules than from Examples

arXiv: 2609.03213

Большинство думает, что нейронка сама всё поймет, если завалить её примерами. Это чушь: LLM — не телепат, а статистический калькулятор. Когда ты даешь ей только пары «вопрос-ответ» без объяснения логики, ты заставляешь её играть в угадайку. На примитивных шаблонах это прокатит, но на любых составных условиях модель начинает путаться и выдавать откровенную фигню.

Это как учить стажёра готовить: молча показать пять готовых блюд и ждать, что он сам сварит авторский соус. «Ну ты же видел тарелку, чё тут непонятного?» В итоге он насыплет сахара вместо соли, потому что скрытую формулу никто не озвучил, а по внешнему виду пропорции не угадать.

Что реально работает: декларативные правила вместо слепого few-shot prompting. Исследователи прогнали тесты на 5 нестандартных задачах и доказали: прямое описание логики почти всегда разносит пачку примеров всухую. Не заставляй модель выводить закономерность из данных — прямо пиши алгоритм ветвления: «если выполнены условия X и Y, то делай Z».

Тестировали на синтетических задачах, но принцип универсален. Кастомная сортировка тикетов поддержки, скоринг лидов в CRM, парсинг кривых документов — везде, где работает нетривиальная логика бизнеса, примеры без контекста это деньги на ветер. Правило бьет примеры, потому что примеры физически не могут покрыть все крайние случаи.

Короче: перестань забивать контекстное окно простынями диалогов в надежде на магию нейросетей. Формулируй пошаговый регламент и жесткие ограничения прямо в тексте задачи. Четкие правила экономят токены и страхуют от ошибок, а фанаты обучения на слепых примерах пусть дальше гадают, почему бот опять затупил.

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с