Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
ExtraHerO (Extraction with Hierarchical Optimization): иерархическое извлечение системных промптов из сложных ИИ-агентов и честная оценка утечек
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Парадокс: два системных промпта с противоположным смыслом («обязан прочитать календарь» и «обязан отказаться читать календарь») набирают почти 100% совпадения по стандартным метрикам BLEU и ROUGE. Метод ExtraHerO позволяет проверить сложных ИИ-агентов на утечку системного промпта даже через закрытый интерфейс и честно измерить опасность утечки. Фишка: метод бьёт промпт на 5 блоков и вытягивает скрытые правила по частям через смысловые якоря. Оценка через совпадение структурных ключевых слов (SKM) показывает реальный риск взлома бизнес-логики, а не общие слова.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку