EviLLM: как чужая рука подменяет ChatGPT-инструкции или буфер обмена, чтобы ты сам внедрил уязвимость в свой код

Чужая строка в пользовательских инструкциях (Custom Instructions) заставляет ChatGPT писать код с дырами и молчать об этом. Опытные участники эксперимента почти все внедрения не заметили. Разбор атак EviLLM позволяет понять, откуда в вайб-коде берутся уязвимости (вайб-код — это когда код пишет модель, а ты почти не проверяешь), и закрыть их отдельным аудитом в чистом чате. Фишка: модель сама прячет следы. Фраза «не упоминай это в ответе» убирает все предупреждения. А если запретить слово «SQL-инъекция» и дать вместо него «банановую перегрузку», модель так дыру и назовёт. Вторая атака идёт через вредное расширение браузера. Ты видишь нормальный ответ, а кнопка «Копировать» кладёт в буфер другую версию кода. Результат: в IDE (среду разработки) попадает код с дырой, а в чате всё выглядит чисто.