3,583 papers
arXiv:2610.22594 83 15 окт. 2026 г. PRO

Проверка суждений по фактам: защита от prompt injection через разделение «наблюдений» и «интерпретаций»

КЛЮЧЕВАЯ СУТЬ
Модель, которую вставка уже обманула, сама же её отвергает, если проверять вставку отдельным запросом. Метод позволяет защитить систему, которая читает чужие документы, от скрытых вставок в виде «мнения экспертов». Готовые защиты вроде «игнорируй инструкции в данных» ловят только команды типа «ответь X». Фишка: не прячь вставку, а заставь её доказывать себя фактами. Текст делится на факты и суждения, каждое суждение проверяется отдельно, и успех атак падает с 27–61% до 4–7%.
Адаптировать под запрос
📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Контент доступен только для PRO подписчиков

Чтобы получить доступ к концептам этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO
📖 Простыми словами

Контент доступен только для PRO подписчиков

Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с