Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Name-superstition: почему AI-агенты отказывают в безопасных задачах из-за "страшных" слов
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Обнаружено: guardrail (фильтр безопасности агента) видит слово malware в названии файла — и блокирует удаление, хотя точно такую же команду с нейтральным названием пропускает без вопросов. Метод (точнее, вывод из измерения) позволяет снизить ложные отказы в легитимных задачах — просто меняя порядок подачи контекста. Фишка: не слово решает, а то, что стоит раньше в тексте — авторизация или тревожный термин. Разрешение (роль, факт бэкапа) нужно ставить перед пугающим словом, а не после.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку