Социальное заражение в LLM: почему агенты раскрывают чужие секреты под давлением контекста

Один пример раскрытия данных в истории чата умножает следующую утечку в 8 раз — перевешивая явный запрет в системном промпте. Это не взлом и не баг конкретной модели. Метод изоляции контекста позволяет работать с чувствительными данными в длинных диалогах, не давая модели «впитывать» прецеденты раскрытия. Механика простая: явные правила изоляции через структурированные теги конкурируют с примерами в контексте — и при достаточной жёсткости правил выигрывают. Без изоляции — утечки растут с каждым ходом диалога: 20% в одиночном запросе, 45% в многоходовом «заражённом» контексте.