OTTER: почему фильтры безопасности LLM — это проверка слов, а не намерений

Обнаружено: фильтры безопасности в ChatGPT и других LLM — не анализ намерений. Детектор «плохих слов». Намерение то же, слова другие — фильтр пропускает. Mетод OTTER позволяет найти конкретные слова, которые «включают» тревогу в системе модерации, и заменить их нейтральными синонимами — без потери смысла. Фишка: OTTER измеряет вклад каждого слова в токсичный балл, находит топ-5 «горячих» и заменяет их. Смысл запроса не меняется. Поверхностный сигнал исчезает. Результат — с 7% до 84% успешных обходов. Это не взлом, а диагноз: модерация смотрит на обёртку, а не на содержимое.