Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Метод обнаружения инъекций запросов путем интеграции предварительно обученной модели и эвристической инженерии признаков
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Исследователи создали ДВУХУРОВНЕВУЮ СИСТЕМУ ЗАЩИТЫ от вредоносных промптов: умный детектив (нейросеть DeBERTa) анализирует скрытый смысл, а быстрый охранник проверяет по списку «красных флагов» - запрещенных слов и подозрительных структур. Для пользователя главная ценность - понимание этого списка триггеров, чтобы случайно не попасть под блокировку при написании сложных промптов.