Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
AttackEval - Как оценить эффективность атак на обход ограничений на больших языковых моделях
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Бинарная оценка (удалось/не удалось) скрывает важные детали; многие "неудачные" атаки на самом деле частично успешны, а LLM особенно уязвимы к сложным ролевым сценариям в таких областях, как "политическое лоббирование" и "финансовые консультации".