Предиктивные предохранители в ИИ-агентах: почему прогноз последствий перед действием не гарантирует безопасность

Парадокс: Если попросить ИИ-агента спрогнозировать последствия своего шага в промпте, опасных сбоев может стать даже больше при кратном росте расхода токенов. Диагностика цепочки «прогноз — решение — действие» позволяет правильно настроить предохранители для автономных агентов без слепых правок и ложного чувства защищённости. Фишка: прогноз работает только как внешний блокирующий шлюз на один ближайший шаг (h = 1) по чёткому списку правил, а не как совещательная подсказка (Prediction-Informed) — мягкий совет можно отключить и сэкономить в 2 раза больше токенов без потери безопасности.