GMTRouter：基于多轮用户交互的个性化 LLM Router
计算与语言
2025-11-13 v1 机器学习
摘要
大型语言模型 (LLM) routing 在平衡响应质量与计算成本方面已显示出强大的能力。随着用户偏好差异化，个性化在 LLM routing 中正受到日益关注，因为即使相同的查询也可能需要根据个体需求选择不同的模型来生成量身定制的响应。然而，现有方法在个性化方面并不完全到位，往往难以捕捉特定用户与 LLM 之间复杂的相互作用。此外，用户偏好数据通常稀缺、噪声且格式不一致，这限制了仅依赖用户特定数据的方法的效果。为此，我们提出了 GMTRouter，将多轮用户-LLM 交互表示为一种具有四种节点类型（用户、LLM、查询和响应）的异构图，从而保留了交互中丰富的关系结构。通过量身定制的 message-passing 机制，GMTRouter 在轻量级的归纳图学习框架中从 few-shot 数据中学习用户偏好，实现有效的个性化。广泛的实验表明，GMTRouter 在多个数据集上 consistently outperform strong baselines，准确率提高 0.9% 到 21.6%，AUC 提升 0.006 到 0.309。更重要的是，我们演示了 GMTRouter 仅通过 few-shot 数据即可适应新用户和变化的偏好，无需大量 fine-tuning。GMTRouter 的代码已公开 available at https://github.com/ulab-uiuc/GMTRouter。
引用
@article{arxiv.2511.08590,
title = {GMTRouter: Personalized LLM Router over Multi-turn User Interactions},
author = {Encheng Xie and Yihang Sun and Tao Feng and Jiaxuan You},
journal= {arXiv preprint arXiv:2511.08590},
year = {2025}
}
备注
Preprint