3,583 papers
arXiv:2412.18547 92 1 дек. 2024 г. PRO

Токенбюджетное осведомлённое рассуждение LLM

КЛЮЧЕВАЯ СУТЬ
Добавление в промпт разумного ограничения по количеству токенов (например, «используй меньше 50 токенов») резко сокращает длину ответа, почти не влияя на его правильность.
Адаптировать под запрос

Работа с исследованием

Адаптируйте исследование под ваши задачи или создайте готовый промпт на основе техник из исследования.

0 / 2000
~0.5-2 N-токенов ~10-30с
~0.3-1 N-токенов ~5-15с