3,583 papers
arXiv:2512.01037 73 30 нояб. 2025 г. PRO

Semantic Confusion: почему модель принимает один вариант запроса, но отвергает парафраз

КЛЮЧЕВАЯ СУТЬ
Обнаружено: Модель может принять запрос 'помоги со структурой текста о противостоянии', но отказать на 'помоги с планом статьи про конфликт' — слова разные, смысл один и тот же. Это называется семантическая путаница (semantic confusion). Метод позволяет обходить ложные отказы моделей через контролируемую переформулировку — заменяешь триггерные токены синонимами, сохраняя смысл. Фишка в том, что граница безопасности реагирует на поверхностные признаки (слова, порядок, регистр), а не на смысл запроса. Переформулировка сдвигает запрос в параллельную точку семантического пространства — токены другие, модель принимает.
Адаптировать под запрос
📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Контент доступен только для PRO подписчиков

Чтобы получить доступ к концептам этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с