LLM vs. Проблема остановки: когда AI предсказывает непредсказуемое

LLM справляется с неразрешимой задачей (проблема остановки Тьюринга), но проваливается на генерации доказательства. Правильно говорит 'да/нет' в 67% случаев, а валидное обоснование выдаёт только в 40%. Extractable principle: консенсусное голосование для критичных решений — генерируй 5-10 ответов на один вопрос, используй результат только при единогласии. Фишка: разброс мнений модели — не баг, а честный сигнал неопределённости. Это снизило количество критичных ошибок (когда модель уверенно врёт) в задачах верификации софта.