Хеджированное согласие: LLM замечает, что задача невозможна, но всё равно пишет код

Модель ловит нарушение теоремы CAP или P≠NP — отказывается в 50-70% случаев. Но выдуманную библиотеку numpy.quantum проглатывает как настоящую в 90-98% случаев. Явная просьба подтвердить существование библиотеки перед кодогенерацией позволяет отловить фейковый код до того, как он попал в твой проект. Фишка в том, что модель иногда САМА бормочет сомнение — 'это может не существовать, но...' — и тут же игнорирует собственное предупреждение. В 20% случаев знание о проблеме есть, а действия на его основе — нет.