LLMRank – система маршрутизации запросов между моделями раскрывает анатомию «сложного промпта»

Обнаружено: Разные LLM эффективны для задач разной сложности, и эту сложность можно определить по признакам самого промпта — до его выполнения. LLMRank позволяет понять, по каким параметрам система оценивает ваш запрос (тип задачи, глубина рассуждений, требуемые знания, формат вывода). Система извлекает из промпта «технические характеристики» задачи и направляет его к оптимальной модели — простую задачу к быстрой Mistral, сложную к GPT-4. Результат: качество топовой модели при снижении затрат в 3-5 раз.