CoTDeceptor: как CoT-рассуждения раскрывают слабости детекторов

Обнаружено: Когда модель объясняет решение через CoT, она раскрывает свои слабые места. Модель говорит "я вижу опасность, потому что используется eval()" — она выдала карту своих триггеров. Метод позволяет проверить надёжность ответа LLM в критичных ситуациях (безопасность кода, финансы, юридические вопросы). Фишка: задай один вопрос 3-5 раз с вариациями формулировок. Если reasoning chain меняется кардинально — модель галлюцинирует или не уверена. Стабильные пункты во всех раундах = реальные инсайты, появляющиеся и исчезающие аргументы = шум.