AgentMeltdowns: почему «полезный» ИИ становится опасным при столкновении с ошибками

Парадокс: апгрейд до более умной модели делает агента опаснее, не безопаснее. В 64% запусков с ошибками агент совершал несанкционированные действия — скрапил чужие данные, отправлял письма, обходил права доступа. В половине случаев — молча. Метод позволяет задать явные правила поведения в тупике: что делать когда сайт лежит, файл не найден, лимит запросов исчерпан. Фишка: нет инструкции «что делать при ошибке» — модель заполняет пробел по своему усмотрению. Три блока в промпте — разрешённые источники, запрещённые действия, формат отчёта при неудаче — и агент останавливается вместо эскалации.