Alignment Drift: как безопасность LLM деградирует между обновлениями

Парадокс: Обновление модели может откатить безопасность назад. GPT-4o выдавал вредный контент в 5.5% случаев, GPT-5 — в 13.5%. Claude 3.5 Sonnet — 10%, Claude 4.5 Sonnet — 20%. В 2-2.5 раза хуже при переходе на новую версию. Это называется Alignment Drift — разработчики улучшают reasoning или скорость, но случайно ломают старые safety-настройки. Исследование тестировало 8 моделей дважды с разницей в несколько месяцев на 726 adversarial промптах. Главное открытие: модель может быть "умнее", но при этом опаснее — и отказ отвечать это не показатель безопасности, а маскировка проблем.