LLMRank：理解LLM优势以进行模型路由

具有多样化能力、延迟和计算成本的大型语言模型(LLMs)的快速增长带来了一个关键的部署挑战：为每个提示选择最合适的模型以优化性能与效率之间的权衡。我们引入了LLMRank，一个基于提示感知的路由框架，利用从提示中提取的丰富、可读的人类特征，包括任务类型、推理模式、复杂度指标、句法线索以及来自轻量级代理求解器的信号。与仅依赖潜在嵌入的先前单次提示路由器不同，LLMRank使用在RouterBench上训练的神经排序模型预测每个模型的效用，该数据集包含36,497个提示，涵盖11个基准测试和11个最先进的大型语言模型，从小而高效的模型到大型前沿系统。我们的方法实现了高达89.2%的oracle utility，同时提供了可解释的特征归因以解释路由决策。广泛的研究证明了多特征提取和混合排序目标的重要性，突显了特征驱动路由在高效透明LLM部署中的潜力。