Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Сентинел SOTA модель защиты от вставок промптов
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Sentinel — это МОДЕЛЬ-ОХРАННИК, которая проверяет каждый промпт перед тем, как он попадет к основной LLM. Она обучена на тысячах примеров вредоносных атак и определяет с точностью 98.7%, пытается ли пользователь "взломать" систему через промпт. ГЛАВНАЯ ИДЕЯ: LLM не умеют отличать ваши реальные инструкции от инструкций, которые вы просите их симулировать — это фундаментальная уязвимость.