CoT Leakage: цепочка рассуждений «сливает» личные данные из промптов

Добавляешь «думай по шагам» — качество растёт. Утечка личных данных тоже: с 52% до 86%. Анонимизация данных до отправки в промпт позволяет использовать пошаговое рассуждение без риска, что реальные ФИО, телефоны и суммы окажутся в ответе модели. Фишка: инструкция «не повторяй личные данные» — это фильтр финального ответа, а не промежуточных шагов. Когда модель строит цепочку рассуждений, она перебирает факты из промпта — и личные данные оказываются в тексте ещё до того, как срабатывает любой контроль вывода. Встроенные защиты Claude 4 не сработали ни разу в 100 тестах с утечкой личных данных.