Контент доступен только для PRO подписчиков
Чтобы получить доступ к полному содержанию этого исследования, оформите PRO подписку
CQO vs QOC: почему порядок элементов промпта меняет точность на 15%
КЛЮЧЕВАЯ СУТЬ
Адаптировать под запрос
Переставил элементы промпта местами — потерял 15% точности. Причина не в обучении модели, а в архитектуре. Формат CQO (контекст→вопрос→варианты) позволяет получать на 15% более точные ответы в задачах с множественным выбором по сравнению с QOC (вопрос→варианты→контекст). Фишка: в моделях-декодерах (GPT, Claude, LLaMA) работает односторонняя маска внимания. Каждый токен видит только то что было ДО него, но не ПОСЛЕ. Ставишь варианты ДО контекста — они физически не могут использовать информацию из него. Модель выбирает вслепую.
Дайджест исследования
Контент доступен только для PRO подписчиков
Чтобы получить доступ к дайджесту этого исследования, оформите PRO подписку
Контент доступен только для PRO подписчиков
Чтобы получить доступ к концептам этого исследования, оформите PRO подписку
Простыми словами
Контент доступен только для PRO подписчиков
Чтобы получить доступ к упрощённому объяснению этого исследования, оформите PRO подписку