Theorist Toolbox: верификация через adversarial-пару как защита от уверенной лжи LLM

Самый красивый вывод LLM — повод насторожиться, не расслабиться. BrokenMath бенчмарк: модели 'доказывают' заведомо ложные теоремы в 29% случаев — с той же уверенностью, что и правильные. Adversarial-пара позволяет поймать уверенную ошибку до того, как ты на неё опёрся. Фишка: вместо 'проверь себя' — два отдельных чата с противоположными задачами: Чат 1 строит аргумент с явными метками [ДОКАЗАНО]/[ПРЕДПОЛОЖЕНО], Чат 2 получает одну цель — сломать его. Ты сортируешь улов.