3,583 papers
arXiv:2609.09315 74 8 сент. 2026 г. PRO

Слепые оракулы: почему тесты от AI не ловят баги в коде от AI

КЛЮЧЕВАЯ СУТЬ
Тест долетает до места с багом в трети-половине случаев. Но ловит баг почти никогда - процент найденных ошибок близок к нулю. Проблема не в самом тесте, а в проверке результата (её называют оракул - это строка типа assert результат равен ожидаемому). AI пишет эту строку, глядя на свой же код, и просто подтверждает то, что код УЖЕ делает, а не то, что он ДОЛЖЕН делать. Раздельная генерация даёт возможность отделить 'что должно быть' от 'что уже написано' - AI сначала предсказывает результат по текстовому описанию задачи, вообще не видя код.
Адаптировать под запрос
📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Контент доступен только для PRO подписчиков

Чтобы получить доступ к концептам этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO
📖 Простыми словами

Контент доступен только для PRO подписчиков

Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с