面向冷启动场景的多层次任务剖面引导数据合成下的任务感知 LLM 路由
计算与语言
2026-04-13 v1
摘要
大语言模型 (LLM) 在不同任务和查询下的性能和计算成本存在显著差异，这动机了选择模型以满足用户特定成本-性能权衡的路由系统。然而，现有路由器在冷启动场景下泛化性差，即缺乏领域内训练数据。我们通过多层次任务剖面引导数据合成框架来克服此限制，构建分层任务主题 taxonomy 并生成多样化的问答对，以逼近测试时查询分布。基于此，我们引入 TRouter，一种任务类型感知路由方法，通过潜在任务类型变量建模查询条件下的成本和性能，并从合成的任务主题中推导先验正则化。该设计在冷启动和领域内设置下均提升了 TRouter 的路由实用性。跨多个基准，我们展示我们的合成框架缓解了冷启动问题，TRouter 能有效实现 LLM 路由。
引用
@article{arxiv.2604.09377,
title = {Task-Aware LLM Routing with Multi-Level Task-Profile-Guided Data Synthesis for Cold-Start Scenarios},
author = {Hui Liu and Bin Zou and Kecheng Chen and Jie Liu and Wenya Wang and Haoliang Li},
journal= {arXiv preprint arXiv:2604.09377},
year = {2026}
}
备注
30 pages, Accepted by ACL 2026 Main