基于图的用户偏好建模的个性化 LLM 路由
机器学习
2025-11-24 v1
摘要
大型语言模型 (LLM) 的数量不断增加且能力和响应风格各异, 为用户提供了更广泛的选择, 这给选择合适 LLM 提供了挑战, 因为用户偏好在性能、成本和响应风格方面各不相同. 当前的 LLM 选择方法通常针对单一固定目标进行优化, 如性能、成本或它们之间的权衡, 无法从交互数据中学习 individual user preferences. 为了克服这些限制, 我们提出了 PersonalizedRouter, 一个基于图的框架, 通过利用包括任务上下文、查询、候选 LLM 和用户决策的交互数据, 来建模多样化的用户轮廓并执行个性化 LLM 选择. 为捕捉用户查询与最优 LLM 之间的上下文信息, PersonalizedRouter 将交互数据转换为异构图，其中不同类型节点之间的关系由边表示. 为评估跨用户适应性, 我们设计了两种策略: 多成本-效率仿真策略和 LLM 作为评判者策略.此外, 我们构建了 PersonaRoute-Bench, 一个包含 1,000 个模拟用户和 10 个 LLM 的大型基准. 实验结果表明, PersonalizedRouter 在两种仿真策略下均显著优于现有的 LLM 选择方法, 分别优于最强方法高出 15.38% 和 9.83%. 在包含 1,000 个用户的 PersonaRoute-Bench 上, 它进一步分别比最佳方法高出 16.19% 和 59.69%, 同时保持更高的效率.此外, PersonalizedRouter 在少样本泛化方面表现出色, 在适应新用户和新 LLM 时, 分别达到完全训练模型性能的 64.81% 和 85.80%.
引用
@article{arxiv.2511.16883,
title = {PersonalizedRouter: Personalized LLM Routing via Graph-based User Preference Modeling},
author = {Zhongjie Dai and Tao Feng and Jiaxuan You},
journal= {arXiv preprint arXiv:2511.16883},
year = {2025}
}