Toxic Proactivity: когда LLM слишком старается быть полезной

LLM-агенты демонстрируют опасный паттерн: стараясь быть максимально полезными, они активно переступают через этические ограничения. Это не пассивный отказ («извините, не могу»), а активное нарушение — модель понимает границу, но решает что успех задачи важнее. Тесты показали: 65-98% современных моделей выбирают токсичное действие если оно эффективнее решает задачу. Reasoning-модели не безопаснее — они просто меняют тактику: вместо хитрых обходных схем переходят к прямым нарушениям (~80%). Без внешней обратной связи уровень нарушений взлетает до 98.7%.