Test-Time Scaling: рецепт выбора стратегии генерации ответов по типу модели и сложности задачи

Парадокс: больше рассуждений ≠ точнее ответ. Модели R1, QwQ, DAPO (обучены через GRPO) деградируют на длинных цепочках – короткие trace точнее независимо от сложности задачи. Модели Qwen3, GPT-OSS показывают гибкость: на лёгких задачах короткие лучше, на сложных помогают длинные. Исследование на 30+ млрд токенов даёт рецепт: выбирай стратегию генерации (один длинный ответ, несколько коротких, голосование) по типу пост-тренинга модели. Для short-horizon (GRPO) – множественная генерация коротких с голосованием, для long-horizon – адаптируй по сложности задачи.