3,583 papers
arXiv:2509.21732 82 26 сент. 2025 г. PRO

Batch Prompting: группировка вопросов для экономии токенов

КЛЮЧЕВАЯ СУТЬ
50 отдельных запросов «вопрос + контекст» можно заменить одним: «контекст + 50 вопросов». Batch Prompting позволяет извлекать ответы на множество вопросов за один запрос, экономя токены (в 50 раз меньше обращений к API) и сохраняя высокую точность. Фишка метода: JSON-структура с двухкомпонентным ответом — модель выдаёт не просто «Да/Нет», а суждение + ссылку на источник в контексте. Это снижает галлюцинации: модель вынуждена искать подтверждение, а не додумывать. GPT-4o показывает 96% точности для групп из 5-10 вопросов.
Адаптировать под запрос
📋 Дайджест исследования

Контент доступен только для PRO подписчиков

Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку

💳 Оплатить через Геткурс
YandexPay • SberPay • СБП • Карты РФ
⚡ Оплатить через Tribute
Telegram Stars • Моментальный доступ
Узнать о PRO

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с