中文

TagRouter:通过标签为开域文本生成任务路由至 LLM

计算与语言 2025-06-17 v1

摘要

模型路由将查询分配给合适的模型,从而提高系统性能并降低成本。然而,现有的路由方法在实际应用中面临诸多限制,难以应对大规模应用的可扩展性挑战,也跟不上大语言模型(LLM)生态快速发展的步伐。为解决这些挑战,我们提出 TagRouter,这是一个面向开域文本生成任务的训练自由模型路由方法,旨在优化多个 LLM 之间的协同作用。实验结果表明,TagRouter 在 13 种基线方法中均表现优异,使系统接受率提高 6.15%,成本降低 17.20%,实现最佳的性价比。我们的发现为 LLM 社区提供了一个高效且可扩展的模型集成解决方案,为用户提供一个可演化的“超级模型”。

关键词

引用

@article{arxiv.2506.12473,
  title  = {TagRouter: Learning Route to LLMs through Tags for Open-Domain Text Generation Tasks},
  author = {Zhou Chen and Zhiqiang Wei and Yuqi Bai and Xue Xiong and Jianmin Wu},
  journal= {arXiv preprint arXiv:2506.12473},
  year   = {2025}
}

备注

ACL 2025, 26 pages, 13 figures, 14 tables