PPAI:实现面向协作边缘智能的个性化 LLM 智能体互操作性
计算与语言
2026-05-19 v1
摘要
在边缘设备上部署大型语言模型 (LLM) 可为各类用户提供个性化的 LLM 智能体。多样化个性化智能体的日益普及为对等 (P2P) 协作提供了独特机会,其中每个用户可以将超出本地智能体专业能力的任务委托给更适合特定查询的远程智能体。本文介绍了 PPAI,首个个性化 LLM 智能体互操作系统,它使用户能够基于智能体专业化进行协作。然而,与现有的 P2P 系统相比,不断变化的智能体池及其可互换的能力在将查询匹配到智能体和平衡负载方面引入了新的挑战。因此,我们提出了一种基于原型的可扩展查询-智能体配对评分机制,以在存在节点流动的 P2P 网络中识别合适的智能体。此外,当远程智能体负载变化过快而无法被观测时,我们提出了一种多智能体互操作性贝叶斯博弈来平衡本地需求和全局效率。最后,我们实现了 PPAI 的原型,并证明它在保持负载平衡的同时大幅拓宽了可执行的任务范围。平均而言,它在多个任务上实现了高达 7.96% 的准确率提升,同时与基线相比将延迟降低了 16.34%。
关键词
引用
@article{arxiv.2605.18067,
title = {PPAI: Enabling Personalized LLM Agent Interoperability for Collaborative Edge Intelligence},
author = {Zile Wang and Qianli Liu and Kaibin Guo and Haodong Wang and Jian Lin and Zicong Hong and Song Guo},
journal= {arXiv preprint arXiv:2605.18067},
year = {2026}
}