TagRouter:通过标签为开域文本生成任务路由至 LLM
计算与语言
2025-06-17 v1
摘要
模型路由将查询分配给合适的模型,从而提高系统性能并降低成本。然而,现有的路由方法在实际应用中面临诸多限制,难以应对大规模应用的可扩展性挑战,也跟不上大语言模型(LLM)生态快速发展的步伐。为解决这些挑战,我们提出 TagRouter,这是一个面向开域文本生成任务的训练自由模型路由方法,旨在优化多个 LLM 之间的协同作用。实验结果表明,TagRouter 在 13 种基线方法中均表现优异,使系统接受率提高 6.15%,成本降低 17.20%,实现最佳的性价比。我们的发现为 LLM 社区提供了一个高效且可扩展的模型集成解决方案,为用户提供一个可演化的“超级模型”。
引用
@article{arxiv.2506.12473,
title = {TagRouter: Learning Route to LLMs through Tags for Open-Domain Text Generation Tasks},
author = {Zhou Chen and Zhiqiang Wei and Yuqi Bai and Xue Xiong and Jianmin Wu},
journal= {arXiv preprint arXiv:2506.12473},
year = {2025}
}
备注
ACL 2025, 26 pages, 13 figures, 14 tables