Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
Проверка перед разговором: защита черного ящика от несанкционированного доступа для больших языковых моделей.
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Добавление «пробного» вредоносного запроса к вводу пользователя позволяет с высокой точностью обнаружить скрытые триггеры, так как они резко снижают «сопротивляемость» модели к выполнению вредоносной части промпта.