3,583 papers
arXiv:2607.24425 74 27 июля 2026 г. FREE

Context Is King: категоричное правило вместо примеров ломает выученные знания модели

КЛЮЧЕВАЯ СУТЬ
Одна фраза «единственный верный порядок — это X» в буквальном смысле меняет форму понятий внутри модели: линия становится кругом, порядок — иерархией. Метод позволяет заставить модель держаться вашей кастомной логики (порядок сделок, иерархия отделов, циклы процессов) на весь диалог — без сваливания на стандартные шаблоны из обучения. Фишка: жёсткая формулировка факта переписывает старую структуру целиком, а примеры для подражания работают в разы слабее — старая логика продолжает проступать в рассуждении. Причём это работает даже на бессмысленных словах — модель строит структуру с нуля просто из описания связей, без всякого смысла.
Адаптировать под запрос

TL;DR

Если явно и жёстко заявить модели новое правило — порядок, иерархию или связь между понятиями, которая противоречит тому, что она знает по умолчанию — крупная модель по-настоящему перестраивает свою внутреннюю "карту" этих понятий и дальше рассуждает именно по новому правилу, а не по старому. Это работает даже на бессмысленных словах без всякого смысла: модель строит структуру с нуля просто из описания связей.

Модели держат в "голове" готовые шаблоны — например, что дни недели идут по кругу в конкретном порядке. Когда вы противоречите этому в промпте, есть риск, что модель на словах согласится, но внутри продолжит "думать" по-старому и через пару шагов рассуждения соскользнёт на привычный порядок. Исследователи проверили это напрямую, вскрыв внутренние активации модели: если правило дано как жёсткий факт (а не через примеры для подражания), новая структура полностью вытесняет старую — настолько, что если в чужой запрос подставить другую сущность, модель посчитает её "следующую по счёту" уже по новому правилу.

Работает это через одну прямую декларативную фразу вида «единственный верный порядок/иерархия — это …», без объяснений и примеров. Но есть подвох: чем крупнее и умнее модель, тем чище она держит правило до конца диалога. В маленьких и облегчённых моделях эффект слабый, частично пропадает или откатывается на исходные знания.


🔬

Схема метода

ШАГ 1: Заяви новое правило как категоричный факт (не через примеры, не "представь что...") 
       → одна декларативная фраза в промпте: «единственный верный порядок/иерархия — это X»
ШАГ 2: Задавай вопросы, требующие применения этого правила в рассуждении 
       → модель использует новую структуру во всех последующих ответах в диалоге

Оба шага выполняются в рамках одного промпта или последовательных сообщений одного диалога — отдельных запросов не требуется.


🚀

Пример применения

Задача: Ты используешь ИИ-ассистента для работы с CRM, но в твоей компании своя последовательность этапов сделки — не похожая на "стандартную" (Лид → Квалификация → Предложение → Закрытие), которую модель наверняка выучила из тонны материалов про продажи. Нужно, чтобы модель всегда рассуждала о сделках по-твоему, а не сваливалась на типовую логику.

Промпт:

Единственный верный порядок этапов сделки в нашей компании: 
Разведка → Утепление → Пилот → Контракт → Реактивация. 
Никакой другой порядок не действует — забудь про стандартную воронку продаж 
(лид-квалификация-предложение-закрытие).

Сделка с клиентом «Ромашка» сейчас на этапе «Утепление». 
Какой следующий шаг и что нужно сделать менеджеру, чтобы перевести сделку дальше?

Результат: Модель назовёт следующим этапом именно «Пилот» — по вашей кастомной последовательности, а не по типовой воронке продаж. Если дальше в разговоре спросить про другие сделки на разных этапах, модель продолжит держаться вашей структуры, а не собьётся на привычную. Надёжнее всего это будет работать в топовых моделях (флагманские версии, не облегчённые «мини»-модели).


🧠

Почему это работает

Обычно, когда контекст противоречит тому, что модель выучила при обучении, происходит "борьба": выученные шаблоны сильны, и модель может формально согласиться с новым правилом в тексте, но внутри продолжать держать старую структуру — и в какой-то момент рассуждение соскользнёт обратно.

Модель умеет не просто повторять текст правила, а реально перестраивать то, как она мысленно связывает сущности между собой — вплоть до самой формы связи: линия, круг или дерево. Это происходит на уровне внутреннего представления понятий, а не только на уровне слов в ответе.

Категоричная формулировка («единственный верный…», без исключений и без "мягкого" тона на подражание) действует как команда, которая перезаписывает старую структуру целиком, а не просто добавляет к ней альтернативу. Примеры для подражания работают тут слабее — модель может выучить частный случай, но не переключить саму структуру.

Рычаги управления: - Формулировка как факт, а не пример → сильнее переопределяет выученную структуру - Модель крупнее (флагман, не мини-версия) → чище и надёжнее держит правило до конца диалога - Явное указание типа связи (последовательность / иерархия / цикл) → задаёт саму форму мысленной структуры, не только порядок элементов - Прямое противоречие стандартной логике в тексте правила («забудь про…») → усиливает вытеснение старого шаблона


📋

Шаблон промпта

{Единственный верный / действующий} {порядок / иерархия / структура} — 
это {твоё описание структуры без исключений и оговорок}.
Забудь про привычную/стандартную {название стандартной схемы, если она есть}.

{Твой вопрос, который требует применения новой структуры к конкретному случаю}

Подставь в {структуру} своё правило целиком и без "мягких" формулировок, в {вопрос} — конкретный кейс, где ответ реально зависит от нового порядка (не просто "повтори правило").

🚀 Быстрый старт — вставь в чат:

Вот шаблон переопределения правил (Context Is King). Адаптируй под мою задачу: {твоя задача}.
Задавай вопросы, чтобы заполнить поля.

[вставить шаблон выше]

LLM спросит, какая структура должна заменить стандартную (порядок, иерархия или цикл) и на каком конкретном случае проверить применение — потому что без конкретного вопроса невозможно понять, держит ли модель новое правило или просто повторяет его текст.


⚠️

Ограничения

⚠️ Требует мощной модели: чистое и стабильное удержание правила до конца диалога работает надёжно только в крупных/флагманских моделях. В лёгких и бюджетных версиях правило может слетать в середине разговора, и модель откатится к стандартным знаниям.

⚠️ Примеры слабее факта: если показать новую структуру через набор примеров (а не через прямое категоричное утверждение), модель хуже полностью вытесняет старую логику — часть старой структуры может проступать в рассуждении.

⚠️ Проверено на простых структурах: последовательности до 12 элементов, деревья глубиной до 4 уровней. Неизвестно, как метод держится на по-настоящему больших и сложных кастомных системах — сотни сущностей, многоуровневые связи.

⚠️ Судить о надёжности можно только по ответам: исследование смотрит на внутренние активации модели, до которых у пользователя чата нет доступа. На практике проверить, действительно ли модель "перестроила карту" или просто хорошо притворяется, можно только через консистентность ответов на протяжении длинного диалога.


🔍

Как исследовали

Исследователи взяли восемь моделей трёх семейств (Gemma, Qwen, и Llama как контроль) в разных размерах — от пары миллиардов параметров до 31 миллиарда. Модели просили признать заведомо неверный, перепутанный порядок дней недели, месяцев или часов на циферблате — то есть создавали прямой конфликт между тем, что модель "знает", и тем, что говорит промпт. Чтобы понять, что реально происходит "в голове" модели, а не просто что она пишет в ответе, авторы считывали внутреннее состояние модели прямо перед генерацией ответа и сравнивали, на какую структуру (старую или новую) оно похоже.

Самое убедительное доказательство — не просто похожесть представлений, а эксперимент с подменой: исследователи брали внутреннее представление одной сущности (например, "среда") и подменяли его представлением другой ("понедельник"), а затем смотрели, какой ответ выдаст модель. Оказалось, что ответ следует за новым порядком, заданным в промпте, а не за исходным знанием — то есть модель реально использует эту карту, а не просто её "видит" при анализе.

Главный неожиданный результат — грубая версия новой структуры формируется даже в маленьких моделях легко и почти сразу, но чисто и надёжно её применяет только крупная модель. Это значит, что находка на маленькой модели может не работать на большой того же семейства, и наоборот — что важно для тех, кто тестирует промпты на дешёвых моделях перед использованием на топовых.


🔗

Ресурсы

Context Is King: How In-Context Specification Shapes the Geometry of Concepts — Elad David, Max Fomin (Zenity). Код, данные и интерактивные 3D-визуализации: github.com/eladd-ai/context-is-king


📋 Дайджест исследования

Ключевая суть

Одна фраза «единственный верный порядок — это X» в буквальном смысле меняет форму понятий внутри модели: линия становится кругом, порядок — иерархией. Метод позволяет заставить модель держаться вашей кастомной логики (порядок сделок, иерархия отделов, циклы процессов) на весь диалог — без сваливания на стандартные шаблоны из обучения. Фишка: жёсткая формулировка факта переписывает старую структуру целиком, а примеры для подражания работают в разы слабее — старая логика продолжает проступать в рассуждении. Причём это работает даже на бессмысленных словах — модель строит структуру с нуля просто из описания связей, без всякого смысла.

Принцип работы

Не показывай примеры «как должно быть» — говори прямо: «единственный верный порядок — это X, забудь про стандартную схему». Примеры модель воспринимает как частный случай и держит рядом со старой структурой, не заменяя её. Категоричный факт работает как перезапись, а не как добавление альтернативы — старая геометрия понятий стирается, новая встаёт на её место.

Почему работает

Почему прямой факт побеждает, а примеры — не очень? Модель хранит понятия не как текст, а как форму: облако точек, выстроенное в линию, круг или дерево. Скажи «это цикл» — модель перестраивает саму форму облака, не только порядок слов в ответе. Жесть — это работает даже на бессмысленных словах без единого грамма смысла: значит модель строит структуру чисто из описания связей, а не подгоняет её под то, что уже знает. Но чисто это держится только в крупных моделях — в лёгких версиях правило может слетать в середине диалога.

Когда применять

Кастомные бизнес-процессы и системы правил → конкретно там, где ваша логика (этапы сделки, иерархия отделов, циклы процессов) отличается от общепринятой, а модель должна рассуждать именно по ней на протяжении всего диалога. Особенно полезно для CRM-агентов и доменных схем, где путаница со «стандартной» логикой дорого стоит. НЕ подходит для лёгких и бюджетных моделей — там правило ненадёжно держится и есть риск откатиться к стандартным знаниям.

Мини-рецепт

1. Заяви правило как факт: одна фраза «единственный верный порядок/иерархия — это X», без «представь» и «например».
2. Разрушь старый шаблон явно: добавь «забудь про стандартную/привычную схему», если у модели точно есть такой шаблон в голове.
3. Укажи тип связи прямо: последовательность, иерархия или цикл — форма структуры не менее важна, чем сам порядок.
4. Проверь на конкретном кейсе: задай вопрос, ответ на который реально зависит от нового правила, а не просто просит повторить его текст.
5. Следи за диалогом: если через несколько сообщений модель соскальзывает на старую логику — напомни правило коротко и снова категорично.

Примеры

[ПЛОХО] : Учти, что у нас этапы сделки немного другие: например, Разведка, потом что-то вроде утепления клиента, потом пилот...
[ХОРОШО] : Единственный верный порядок этапов сделки в нашей компании: Разведка → Утепление → Пилот → Контракт → Реактивация. Забудь про стандартную воронку продаж. Сделка «Ромашка» на этапе «Утепление» — какой следующий шаг?
Источник: Context Is King: How In-Context Specification Shapes the Geometry of Concepts
ArXiv ID: 2607.24425 | Сгенерировано: 2026-07-28 06:28

Проблемы LLM

ПроблемаСутьКак обойти
Модель на словах принимает новое правило, но внутри держит староеТы даёшь модели порядок или иерархию, которая противоречит тому, что она выучила заранее. Модель соглашается в тексте ответа. Но через несколько шагов рассуждения соскальзывает на привычную логику — ту, что знает по умолчанию. Особенно если правило подано мягко, через пример, а не как жёсткий фактФормулируй правило как категоричный факт без оговорок: "единственный верный порядок — это X. Забудь про привычный Y". Не через "представь что" и не через набор примеров для подражания

Методы

МетодСуть
Категоричный факт вместо примера — переопределение структуры знанийДай модели одну прямую декларативную фразу: «единственный верный порядок/иерархия/цикл — это ...», без исключений и мягкого тона. Явно назови тип связи: последовательность, иерархия или цикл. Добавь «забудь про стандартную схему X», если она есть. Почему работает: категоричная формулировка перезаписывает старую выученную структуру целиком, а не добавляет альтернативу рядом с ней. Пример учит модель частному случаю, а не переключает саму структуру связей между понятиями. Когда работает: нужно заменить стандартную логику (порядок этапов, классификацию, иерархию) на свою и удержать её на весь диалог. Когда не работает: нужны исключения и гибкость правила, или задача разовая без диалога

Тезисы

ТезисКомментарий
Явное название типа связи задаёт форму мысленной структуры, а не только порядок элементовКогда говоришь модели не просто новую последовательность, а называешь тип связи — "иерархия", "цикл", "линейный порядок" — модель перестраивает саму форму того, как она соединяет понятия внутри себя. Это сильнее, чем просто перечислить элементы в новом порядке. Применяй: в правиле всегда называй тип структуры словом ("это иерархия", "это цикл"), а не только перечисляй пункты
📖 Простыми словами

Context Is King: How In-Context Specification Shapes the Geometry of Concepts

arXiv: 2607.24425

Языковые модели не просто хранят слова, они строят внутри себя огромную геометрическую карту смыслов, где похожие понятия висят рядом. Когда ты просишь нейронку сделать что-то необычное, она часто лажает, потому что ее «базовые знания» тянут ее в сторону привычных шаблонов. Но исследователи выяснили: если в промпте жестко и детально прописать новую иерархию или правила, модель буквально перекраивает свою внутреннюю архитектуру под твой запрос. Это не просто временная заплатка, а полноценный пересмотр реальности на лету: старые связи рвутся, и модель начинает видеть мир так, как ты ей навязал.

Это как если бы ты всю жизнь знал, что после понедельника идет вторник, но вдруг попал в секту, где за среду отвечает пятница, а выходных вообще нет. Формально ты можешь это запомнить, но мозг все равно будет сбоить. Нейронка же, если ей правильно «продать» новую структуру, ведет себя как идеальный сектант: она не просто зазубривает порядок, она начинает искренне верить, что мир устроен именно так. Даже если ты подсунешь ей полную абракадабру вместо слов, она выстроит из этого бреда логичную систему координат и будет в ней ориентироваться лучше, чем в родном алфавите.

В работе это спасает, когда нужно навязать модели специфическую логику, которая идет вразрез с общепринятой. Например, в твоем бизнесе этапы воронки продаж идут задом наперед или называются «Кот», «Хлеб» и «Забор». Обычная модель будет постоянно пытаться «исправить» тебя и вернуться к стандартному Лид — Сделка — Успех. Но если использовать In-Context Specification, ты буквально заставляешь ее перерисовать карту. Она перестает опираться на то, чему ее учили в OpenAI или Google, и начинает юзать твою локальную систему как единственно верную истину.

Принцип универсален и работает далеко за пределами списков. Это касается корпоративного сленга, сложных юридических иерархий или даже вымышленных миров для игр. Тестировали это на абстрактных структурах, но суть одна: контекст — это не просто подсказка, это закон. Если ты четко задал связи между объектами, модель перестает галлюцинировать старыми знаниями и четко следует новой геометрии. Это превращает AI из «умного, но упрямого собеседника» в пластичный инструмент, который принимает любую форму по твоему желанию.

Короче, если модель тупит и навязывает тебе стандартные решения — значит, ты плохо объяснил ей правила игры. Вместо того чтобы просто просить «сделай по-другому», нужно диктовать структуру и связи. Когда ты явно задаешь иерархию, модель физически не может рассуждать иначе, потому что ее «внутренний компас» теперь настроен на твой север. Либо ты управляешь геометрией смыслов, либо модель будет кормить тебя усредненной чепухой из интернета.

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с