MTRouter：基于历史-模型联合嵌入的面向成本的多轮 LLM 路由
计算与语言
2026-04-28 v1 人工智能
摘要
多轮、长程任务日益增多，大型语言模型 (LLM) 常需要通过许多顺序模型调用才能解决，导致推理成本高昂。本文研究面向成本的多轮 LLM 路由：从模型池中选择在每个回合要调用的模型，给定固定成本预算。我们提出 MTRouter，通过联合编码交互历史和候选模型，学习从日志轨迹中预测回合级模型效用的 outcome estimator。实验表明，MTRouter 在性能-成本之间取得改进：在 ScienceWorld 上，性能超过 GPT-5，同时将总成本降低 58.7%；在 Humanity's Last Exam (HLE) 上，保持竞争性准确率，同时将总成本相对于 GPT-5 降低 43.4%，且这些提升甚至延续到 held-out 任务。进一步分析揭示了其有效性的若干机制：相对于先前的多轮路由器，MTRouter 模型切换次数更少，对暂时性错误更鲁棒，模型间出现专化现象。代码：https://github.com/ZhangYiqun018/MTRouter
引用
@article{arxiv.2604.23530,
title = {MTRouter: Cost-Aware Multi-Turn LLM Routing with History-Model Joint Embeddings},
author = {Yiqun Zhang and Hao Li and Zihan Wang and Shi Feng and Xiaocui Yang and Daling Wang and Bo Zhang and Lei Bai and Shuyue Hu},
journal= {arXiv preprint arXiv:2604.23530},
year = {2026}
}
备注
This work has accepted by ACL 2026