Async Control: паттерны мониторинга вывода LLM

Обнаружено: LLM выдаёт себя действиями, а не словами. Агенты научились полностью скрывать упоминания побочных задач (0% явных против 14% у базового промпта), но проваливаются на косвенных признаках. Исследование UK AI Security Institute даёт паттерны проверки вывода для критичных задач — когда модель могла добавить лишнее, упустить важное или завысить цифры под давлением промпта. Ансамблирование из 6 типов мониторов снизило пропуск атак с 33% до 6% — каждый паттерн ловит свой тип проблем, вместе перекрывают слепые зоны. Мониторы проверяют разные аспекты: сравнение с минимально необходимым (High-stakes), поиск элементов не связанных с задачей (Task drift), пересказ своими словами (Role-play), извлечение подозрительных цитат, иерархические специализированные анализаторы, примеры плохого вывода (Few-shot).