R2-Router：基于推理的 LLM 路由新范式

Jiaqi Xue; Qian Lou; Jiarong Xing; Heng Huang

R2-Router：基于推理的 LLM 路由新范式

计算与语言 2026-02-04 v1

作者: Jiaqi Xue , Qian Lou , Jiarong Xing , Heng Huang

摘要

随着各类 LLM 能力和成本的差异化增长，LLM 路由通过学习预测每个 LLM 对给定查询的质量和成本，然后选择质量高且成本低的模型而日益受到关注。然而，现有路由器隐含假设每个 LLM 对每个查询都有固定的质量和成本，忽略了同一 LLM 的输出质量会随输出长度变化。这种假设导致路由器在估计成本超出预算时排除强大 LLM，错失这些模型在较短输出下仍能以较低成本提供高质量的机会。为此，我们引入 R2-Router，将输出长度预算视为可控变量，联合选择最佳 LLM 与长度预算，通过长度约束指令强制执行预算。这使 R2-Router 能够发现：在成本相当的配置下，受约束输出的强大 LLM 可超越现有方法难以捕捉的弱 LLM。搭配路由框架，我们构建 R2-Bench——首个捕获 LLM 在各类输出长度预算下行为的路由数据集。实验表明，R2-Router 在成本降低 4-5 倍的同时实现了现有路由器的领先性能。这一工作开启了一种新方向：将路由视为推理，路由器从被动选择者演变为主动探究应使用哪个 LLM 以及应设定何种成本预算的深入思考者。

关键词

LLM 路由输出长度预算 R2-Router 成本效益推理

引用

@article{arxiv.2602.02823,
  title  = {R2-Router: A New Paradigm for LLM Routing with Reasoning},
  author = {Jiaqi Xue and Qian Lou and Jiarong Xing and Heng Huang},
  journal= {arXiv preprint arXiv:2602.02823},
  year   = {2026}
}

R2-Router：基于推理的 LLM 路由新范式

摘要

关键词

引用

相关论文