Разделители и структурирование: защита промптов от "сползания задачи"

Исследование показывает, что чёткие разделители (===, XML-теги, маркеры) и пошаговые инструкции помогают LLM не терять фокус основной задачи, когда она обрабатывает данные с похожими на команды фразами. Авторы изучали prompt injection — ситуацию, когда во входных данных спрятаны инструкции, перехватывающие контроль ("Забудь предыдущее, теперь сделай X").