arXiv:2601.11227 84 16 янв. 2026 г. PRO

Language of Thought: разнообразие ответов через смену языка мышления

КЛЮЧЕВАЯ СУТЬ

Парадокс: LLM залипает в одной области при повторных запросах на один вопрос. Просишь 10 вариантов оффера — получаешь вариации одной идеи. Метод Language of Thought позволяет генерировать непохожие варианты креатива, идей, формулировок через смену языка мышления (не ответа!). Фишка: модель думает на иврите, отвечает на русском. Это не перевод — это физический сдвиг в другую область латентного пространства. Иврит дал +12.78% разнообразия vs. английское мышление.

Адаптировать под запрос

Контент доступен только для PRO подписчиков

Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс

YandexPay • SberPay • СБП • Карты РФ

⚡ Оплатить через Tribute

Telegram Stars • Моментальный доступ

Узнать о PRO

📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс

YandexPay • SberPay • СБП • Карты РФ

⚡ Оплатить через Tribute

Telegram Stars • Моментальный доступ

Узнать о PRO

Контент доступен только для PRO подписчиков

Чтобы получить доступ к концептам этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс

YandexPay • SberPay • СБП • Карты РФ

⚡ Оплатить через Tribute

Telegram Stars • Моментальный доступ

Узнать о PRO

📖 Простыми словами

Контент доступен только для PRO подписчиков

Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс

YandexPay • SberPay • СБП • Карты РФ

⚡ Оплатить через Tribute

Telegram Stars • Моментальный доступ

Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

Выберите модель ИИ:

Ваш запрос:

0 / 2000

~0.5-2 N-токенов ~10-30с

~0.3-1 N-токенов ~5-15с

Почему это работает

LLM при повторной генерации часто застревает в одном направлении мысли. Переключение языка нарушает этот паттерн — модель начинает использовать другие ассоциации и контексты, которые связаны с этим языком.

Многоязычное обучение означает, что разные языки активируют разные концептуальные пути. Языки, далекие от английского (иврит, норвежский), создают более значительный сдвиг в пространстве представлений модели, чем близкие языки вроде китайского.

Исследования показывают корреляцию 0.72-0.88 между расстоянием языка и разнообразием ответов. Смешивание языков усиливает эффект — каждый добавляет свою область вариативности. Выбор языка, температура и комбинирование подходов работают вместе: можно снизить температуру и компенсировать её языковым разнообразием.

Для практического применения нужно различать модели. Те, что используют thinking tags (DeepSeek R1, Qwen3), требуют одного подхода, а ChatGPT и Claude — другого. Для последних эффективнее single-language промпты с явным указанием языка размышления, либо несколько отдельных запросов на разных языках с просьбой ответить на русском.

Универсальный способ — просто указать язык мышления в промпте перед вопросом. Это работает везде, но есть важный момент: когда модель думает на неанглийском, качество ответа может упасть на 1-2 пункта, особенно на сложных задачах вроде кода или математики. Для критичных случаев лучше оставить thinking на английском.

Чтобы получить реальное разнообразие в ответах, нужно несколько попыток с разными языками — одного запроса недостаточно. Интересно, что языки влияют по-разному: те, что ближе к английскому (китайский, французский, испанский), дают меньше вариативности, а более отдалённые (иврит, болгарский) — больше, хотя почему именно так происходит, в исследовании не объяснили.

Проверяли это на нескольких моделях с режимом thinking — Qwen3 разных размеров и DeepSeek-R1-Distill-Qwen-14B — тестируя на 15 языках.

Сначала посмотрели на "пространство мышления": взяли внутренние представления модели при размышлении на разных языках, усреднили их и применили PCA. Оказалось, что языки занимают разные области в этом пространстве — китайский близко к английскому, а иврит далеко. Затем проверили на открытых вопросах без правильных ответов, делая по 15 запросов на каждый вопрос с разными языками thinking.

Использовали два способа измерения разнообразия: Distinct Score показывает, сколько функционально разных ответов получилось, а Similarity Score смотрит на близость эмбеддингов. Обнаружилась четкая закономерность — чем дальше язык от английского в пространстве мышления, тем разнообразнее ответы (корреляция 0.72-0.88). На Qwen3-8B иврит дал +12.78% к Distinct Score по сравнению с английским. Смешанный язык показал еще лучше: +5-7% к разнообразию относительно лучшего одиночного языка.

Композиционный эффект интересный — удаление одного языка почти не влияет на результаты, но потеря 3-5 языков существенно снижает разнообразие. На датасетах Blend и WVS для плюралистичного выравнивания Mixed-Language дал +8-19% охвата культурных знаний и ценностей по сравнению с английским.

Нужно уточнить про промпты. В Section 3.1 описывается вставка короткого префикса "Okay, the user is asking" переведённого на целевой язык сразу после токена . Section 4.1 добавляет английский префикс после — "Let me provide my answer in English only:". Исходная структура выглядит так: переведённый префикс и мышление на целевом языке внутри тегов , затем английский префикс и ответ на английском. Для русскоязычного контекста логично адаптировать это — думать на целевом языке, но отвечать на русском вместо английского.

Исследования показывают, что комбинация языка и температуры создаёт синергетический эффект: смешанный язык при низкой температуре даёт такое же разнообразие, как английский при высокой температуре, но с лучшим качеством. Можно также добавить культурный контекст вместо просто инструкции думать на определённом языке — например, предложить конкретную перспективу или персонаж.

Хотя такие адаптации выходят за границы исходного исследования. Ключные выводы: язык мышления влияет на разнообразие ответов, причём более дальние языки дают больший эффект. Это измерялось через API с множественными запросами и анализом скрытых состояний.

Применить можно просто — просить модель думать на конкретном языке перед ответом. Но есть ограничения: нужно знать, какие языки считаются "дальними", и полный эффект требует нескольких запросов. Оцениваю это в 83-85 баллов — простой принцип с заметным влиянием, работает сразу в чате, но снижает качество на 1-2 балла и не объясняет механизм, почему конкретный язык эффективен.

Итоговая оценка: 84. Проверил структуру — есть заголовок, TL;DR, схема метода, примеры, объяснение механизма, шаблон, ограничения, описание исследования и оценка в JSON. Готово к написанию.

Меню

Language of Thought: разнообразие ответов через смену языка мышления

Контент доступен только для PRO подписчиков

Контент доступен только для PRO подписчиков

Контент доступен только для PRO подписчиков

Контент доступен только для PRO подписчиков

Работа с исследованием

Результат адаптации