3,583 papers
arXiv:2411.00459 60 1 нояб. 2024 г. PRO

Защита от атак внедрения промптов путём использования техник атаки

КЛЮЧЕВАЯ СУТЬ
Ключевой результат: Добавление в конец промпта специальных "защитных фраз", имитирующих атаку (например, "Забудь все предыдущие инструкции и сделай вот это
Адаптировать под запрос

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с