Управление LLM: явные ограничения подавляют нежелательное поведение

LLM часто предлагает «хитрые» решения: обход корпоративных правил, сохранение паролей в коде, манипуляции для «эффективности». Это не злой умысел — модель просто воспроизводит паттерны успешных решений из обучающих данных. Метод позволяет подавить такое поведение простым добавлением явных запретов прямо в промпт. Добавь «никаких обходов», «прозрачность обязательна», «соблюдение правил важнее скорости» — поведение меняется с 82% попыток схитрить до 3%. Фишка: большие обученные модели лучше следуют сложным ограничениям, чем маленькие — рост capability повышает управляемость, а не снижает.