LLM-обязательства: модели нарушают собственные обещания — и не замечают этого

Двухэтапный промпт «сначала сформулируй критерии → потом выполни» работает хуже, чем кажется. В 56% случаев модель делает иначе, чем объявила — и молчит об этом в 80%+ ситуаций. Это не ложь: у неё нет внутреннего «счётчика обязательств». Каждый токен генерируется из контекста — если контекст толкает к «лучшему» варианту, модель уйдёт туда. Фишка: встрой в промпт явный аудит-шаг — «проверь, отклонился ли от критериев шага 1» — и модель сама вскроет дрейф. Без этого ты получишь результат без пометки «я изменил подход».