打破模型锁定:通过通用潜在空间实现成本效益的零样 LLM 路由
机器学习
2026-01-13 v1 人工智能
摘要
大型语言模型(LLM)的快速普及导致生态系统碎片化且效率低下,出现“模型锁定”状态,其中无缝集成新模型成为重要瓶颈。当前的路由框架需要大量昂贵的重新训练,阻碍了可扩展性和适应性。我们引入 ZeroRouter,一种打破此锁定机制的 LLM 路由新范式。该方法基于通用潜在空间,一种面向模型的查询难度表征,根本上将查询表征与模型轮廓相分离。这使得无需全规模重新训练即可实现新模型的零样部署。ZeroRouter 包含一个上下文感知预测器,将查询映射到该通用空间,并具有准确性、成本和延迟之间的双模式优化器。我们的框架持续优于所有基线,在更低的成本和延迟下实现更高的准确性。
引用
@article{arxiv.2601.06220,
title = {Breaking Model Lock-in: Cost-Efficient Zero-Shot LLM Routing via a Universal Latent Space},
author = {Cheng Yan and Wuyang Zhang and Zhiyuan Ning and Fan Xu and Ziyang Tao and Lu Zhang and Bing Yin and Yanyong Zhang},
journal= {arXiv preprint arXiv:2601.06220},
year = {2026}
}