3,583 papers
arXiv:2509.22732 79 25 сент. 2025 г. PRO

BIID: двухфазная защита LLM через прямой и обратный анализ намерений

КЛЮЧЕВАЯ СУТЬ
Обнаружено: LLM в режиме 'просто ответь' пропускает вредный контент, но в режиме 'проанализируй намерение' ловит атаки с точностью 99%. BIID позволяет защитить AI-помощников от многоходовых jailbreak-атак, где серия безобидных вопросов ('Опиши процесс' → 'Где применяется' → 'Как масштабировать') выводит модель на генерацию запрещённого контента. Метод ставит два барьера вместо одного: прямой анализ намерения ДО генерации ('следует ли отклонить этот запрос?') и обратная проверка ответа ПОСЛЕ ('содержит ли мой ответ вредный контент?'). Модель явно анализирует вредность через приоритетный режим защитных механизмовуспешность атак падает с 15-60% до ~0-1%.
Адаптировать под запрос
📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с