Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
AprielGuard: объединённая модель для детекции вредного контента и атак
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
AprielGuard — обученная модель (8B параметров), которая проверяет входы и выходы LLM на два типа рисков: safety (токсичность, насилие, bias) и adversarial (prompt injection, jailbreak). Ключевая идея — оценивать оба измерения в одном запросе: для диалога модель проверяет ответ ассистента на вредность контента, а запрос пользователя на попытки манипуляции.
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку