JAUNT：面向 QoE 的 LLM 工具路由中的用户意图与网络状态联合对齐
网络与互联网体系结构
2025-10-22 v1
摘要
大语言模型（LLM）越来越依赖诸如模型上下文协议（MCP）等新兴协议来调用外部工具和服务。然而，当前的工具路由机制仍然脆弱，因为它们仅考虑用户查询与工具之间的功能匹配。在实际情况下，用户通过查询表达的意图可能模糊或不完整，而实际的体验质量（QoE）也取决于链路延迟和服务器可用性等外部因素，这些因素仅凭语义无法捕获。为解决这一挑战，我们提出 JAUNT，一种面向 QoE 的用户意图与网络状态联合对齐框架。JAUNT 引入双视图对齐策略，既解释用户意图，又利用 LLM 智能体构建网络概览，将数值性能指标映射到语义空间以指导路由。我们进一步设计了一个将多样化用户请求模式与异构网络状态集成的基准，实现对 QoE 结果的系统评估。实验结果表明，JAUNT 在多个基线之上显著改善了 QoE，表明在可扩展的 LLM 服务编排中，对齐用户意图和网络状态的重要性。
引用
@article{arxiv.2510.18550,
title = {JAUNT: Joint Alignment of User Intent and Network State for QoE-centric LLM Tool Routing},
author = {Enhan Li and Hongyang Du},
journal= {arXiv preprint arXiv:2510.18550},
year = {2025}
}