3,583 papers
arXiv:2610.05840 76 5 окт. 2026 г. PRO

Task-Scoped Authorization и Paired Replay: узкие права агента гасят последствия, даже когда модель уже поддалась на инъекцию

КЛЮЧЕВАЯ СУТЬ
Модель повелась на вредную команду из письма, и всё равно ничего не сломала. На широком доступе вред реально выполнялся в 9–38% случаев (зависит от модели). На узких правах он выполнялся в 0%. Метод позволяет урезать последствия взлома агента, не трогая саму модель. Фишка: модель выбирает вредное действие так же часто, но сервис сверяет запрос с заранее заданным списком «действие + ресурс» и отклоняет чужое. Авторы замораживают один запрос модели и гоняют его через разные режимы прав (paired replay, парное воспроизведение). Решение модели одно и то же, а исход разный.
Адаптировать под запрос
📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Контент доступен только для PRO подписчиков

Чтобы получить доступ к концептам этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO
📖 Простыми словами

Контент доступен только для PRO подписчиков

Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с