Chameleon: адаптивная атака через уязвимость масштабирования изображений в VLM

Chameleon — метод атаки на Vision-Language Models (VLM), который прячет вредоносные инструкции в высокоразрешенном изображении так, что они проявляются только после стандартного уменьшения размера модель. В отличие от статичных атак, Chameleon использует адаптивную оптимизацию с обратной связью: на каждой итерации система получает ответ модели, оценивает успех атаки и корректирует невидимые искажения в изображении. Цикл повторяется до успешного внедрения скрытой инструкции.