Few-shot с RoP и ToP: противоположные эффекты на защиту от jailbreak

Парадокс: добавил примеры в промпт → защита от jailbreak (обход защит LLM) и выросла на +4.5%, и упала на -21.2% одновременно. Зависит от типа промпта. Метод позволяет правильно настроить защиту чат-бота от провокаций — не все промпты можно усиливать примерами. Фишка: RoP ("ты безопасный ассистент") + few-shot примеры = роль усиливается. ToP ("следуй этим правилам") + few-shot = внимание модели размазывается по примерам, инструкции теряются. Тестировали на 9 моделях, 6 типах атак, 4 бенчмарках — результат стабильный.