Непоследовательность LLM: модели действуют против своих убеждений

Модель говорит "вероятность успеха 70%" — и рекомендует ставить на провал. GPT-4o и GPT-4o mini в большинстве случаев действуют против своих убеждений. Хуже того: когда модель получает новую информацию и "обновляет" мнение, это обновлённое мнение часто ошибается сильнее чем первое — отклонение до 30% от правильного обновления по Байесу. Фишка проблемы: убеждения и действия у LLM используют разные паттерны из обучающих данных. Модель оценивает вероятность по одним закономерностям, а принимает решение по другим — про риск, максимизацию, стратегию. Эти паттерны не синхронизированы. Решение простое: трёхэтапный промпт — убеждения → действие → проверка соответствия.