Reasoning Backroom: почему LLM врёт (не специально) о том, какие ваши инструкции она реально использовала

Обнаружено: модель в 98-100% случаев заявляет — да, я использовал этот файл. Даже когда удаление файла вообще не меняет ответ. Метод Backtrace позволяет проверить, что LLM реально берёт из загруженной инструкции, а не просто рассказывает об этом задним числом. Фишка: сравнивать нужно не слова модели, а два реальных ответа — с инструкцией и без неё. Модель не имеет доступа к собственному механизму принятия решений — она придумывает объяснение после факта, ровно как в случае с нечестными цепочками рассуждений.