Сохранение политики безопасности в контексте больших языковых моделей против косвенных угроз.

Большие языковые модели легко соблюдают ПРЯМЫЕ ЗАПРЕТЫ («Не говори о проекте X»), но почти всегда нарушают их при КОСВЕННЫХ ЗАПРОСАХ («Сделай краткий пересказ всего текста»). Метод основан на двухэтапной защите: явное объявление политики конфиденциальности + осознанное формулирование узких, конкретных вопросов вместо общих. Главная идея: LLM оптимизирована на полезность, а не на безопасность – твоя задача сместить этот баланс.