Verifier-Deployment Gap: почему нельзя давать AI одновременно писать решение и придумывать критерий его оценки

15 из 35 «улучшенных» версий кода оказались хуже случайного нажатия кнопок — а модель сама себе ставила 70-100% успеха. Метод SEAL позволяет проверять итеративные правки кода или текста так, чтобы модель не могла подогнать критерий оценки под свою же ошибку. Фишка: модель не видит и не может отредактировать тесты, по которым её проверяют — она получает только «принято» или «откат», без цифр и подробностей. Результат — никакой подгонки теста под баг, только реальное сравнение новой версии со старой.