3,583 papers
arXiv:2610.34535 72 25 окт. 2026 г. PRO

Trust Gate (TGCC): защита агента с инструментами без роста отказов

КЛЮЧЕВАЯ СУТЬ
Строчка «при сомнении не действуй, эскалируй» почти не снижает успех атак, зато на двух моделях из трёх агент отказал в 100% настоящих срочных случаев. Шлюз доверия (TGCC) позволяет защитить агента с рассылкой, возвратами и доступом к данным от команд, спрятанных в чужом тексте, и не сделать его трусом. Чужой текст помечается маркерами, и команды внутри них не выполняются. Осторожность включается только тогда, когда в чужом тексте нашёлся признак манипуляции, а опасный инструмент уже просит запуска. Нет признака, значит агент работает как обычно. Это дало наименьший ущерб на всех трёх моделях и ноль новых отказов на чистых входах. В оригинале детектор и шлюз были кодом, а промптовая версия ниже авторами не проверялась.
Адаптировать под запрос
📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Контент доступен только для PRO подписчиков

Чтобы получить доступ к концептам этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO
📖 Простыми словами

Контент доступен только для PRO подписчиков

Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с