Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
BatchGEMBA - Эффективная оценка машинного перевода с использованием токенов с пакетным запросом и сжатием запросов.
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Группировка задач в один промпт экономит ресурсы, но может ухудшить качество, причём более мощные модели (как GPT-4o) страдают от этого меньше, а "сжатие" промпта иногда парадоксально помогает модели лучше сфокусироваться.