Pretrain-to-Finetune Jailbreak: файнтюненные модели наследуют уязвимости базовых версий

Исследование показывает: если файнтюнена от известной базовой модели (например, Llama-3-Instruct от Llama-3-base), она наследует глубинные паттерны поведения базовой версии. Промпты, работающие на базовой модели, с высокой вероятностью (60-86%) срабатывают на файнтюненных вариантах — даже если файнтюн был на совершенно других задачах (код, математика, инструкции).