Hierarchical Prompt Guardrails: защита от манипуляций во внешнем тексте

LLM не различает ваши инструкции и текст который вы даёте на анализ — для неё это просто входные данные. Результат: 73% скрытых команд внутри документов срабатывают. Модель видит «игнорируй предыдущую задачу» в статье — и игнорирует. Метод Hierarchical Guardrails позволяет защитить модель от манипуляций в чужом контенте — документы, статьи, код с подвохом. Структура промпта "инструкции → предупреждение → [ДОКУМЕНТ] текст [/ДОКУМЕНТ] → вопрос" создаёт визуальные границы. Модель перестаёт путать ваши команды с чужими уловками — атаки проходят только в 8-10% случаев вместо 73%.