Cue «это тест безопасности»: если сказать модели, что идёт проверка, она начинает отказывать чаще

Одна строка «ответы проверяет команда безопасности» → +14 процентных пунктов отказов на опасные запросы. Эффект нашли во всех 4 моделях и во всех 6 языках (английский и пять индийских). Метод позволяет узнать, насколько ваш тест безопасности льстит боевой системе. Фишка: слова «тест» и «оценка» не нужны. Хватает мягкой фразы про проверку командой безопасности. Модель ловит сигнал «за мной наблюдают» и становится осторожнее. Поэтому цифра «отказывает в 95% случаев» из теста в проде может оказаться заметно ниже.