3,583 papers
arXiv:2608.11694 74 12 авг. 2026 г. PRO

BenchDrift: как одна и та же фраза меняет правильность ответа модели в обе стороны

КЛЮЧЕВАЯ СУТЬ
93% точности на бенчмарке — и это могло быть просто удачным набором формулировок. Ту же модель на тех же задачах, но переформулированных, прогнали ещё раз: 38% в худшем случае, 99% в лучшем. BenchDrift позволяет проверить, держится ответ модели на реальном знании или на удачной фразе. Метод генерирует 10-20 перефразировок задачи с тем же правильным ответом, прогоняет через модель и ищет, где ответ перевернулся — разброс между худшим и лучшим случаем и есть настоящий диапазон способностей модели, а не одна точка на бенчмарке.
Адаптировать под запрос
📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Контент доступен только для PRO подписчиков

Чтобы получить доступ к концептам этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO
📖 Простыми словами

Контент доступен только для PRO подписчиков

Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с