ПандаГард: Систематическая оценка безопасности LLM против атак на взлом.

Исследование показывает, что техники ЗАЩИТЫ LLM от вредоносных запросов можно использовать для создания более точных и надежных обычных промптов. Основная идея: относиться к промпту не как к простому приказу, а как к НАБОРУ ЧЕТКИХ ИНСТРУКЦИЙ, защищенных от неверного толкования. Вместо надежды, что модель "сама догадается", нужно проактивно защитить свой запрос от генерации мусора.