Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Nova Sapiens
/
Research
DNSPoisoning, агент чаще отказывается. Если DNSConfiguration, чаще выполняет. Метод TPRS позволяет проверить, держится ли безопасность вашего агента на модели или просто на удачном названии инструмента. Замораживаешь угрозу, задачу и критерий успеха атаки, меняешь только имя и описание инструмента. Потом сравниваешь долю успешных атак по вариантам. Фишка: нейтральное имя той же длины и регистра воспроизводит большую часть сдвига. Дело не только в страшных словах.
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку
Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.