面向网络边缘基础模型的多租户分裂联邦学习激励机制
摘要
基础模型（FMs）如 GPT-4 通过微调在多样化的下游任务中展现出卓越的生成能力。分裂联邦学习（SFL）通过将部分 FM 计算卸载到边缘服务器，促进了资源受限本地设备上的隐私保护 FM 微调，实现设备-边缘协同微调。实际的边缘网络通常托管多个 SFL 租户以支持多样化的下游任务。然而，现有研究主要聚焦于单租户 SFL 场景，缺乏面向多租户场景的定制化激励机制，这对于有效协调自利本地设备参与各种下游任务、确保每个 SFL 租户的差异化 FM 微调需求（如 FM 类型、性能目标和微调截止时间）得到满足至关重要。为了填补这一空白，我们提出了一种新颖的价格激励机制（PRINCE），引导多个 SFL 租户提供策略性价格激励，以吸引高质量设备参与高效的 FM 微调。具体而言，我们首先开发了一种偏差鲁棒的全局 SFL 模型聚合方案，以消除由独立设备参与引起的模型偏差。然后我们推导了严格的 SFL 收敛界，以评估异构设备对 FM 性能提升的贡献，从而指导 SFL 租户的激励策略。此外，我们将租户间设备竞争建模为拥堵博弈进行斯坦克尔伯格均衡（SE）分析，推导出每个 SFL 租户的最优激励策略。涉及四种代表性 SFL 租户类型（ViT、BERT、Whisper 和 LLaMA）的广泛模拟，涵盖多样化数据模态（文本、图像和音频），结果表明 PRINCE 相比最先进方法将 FM 微调加速高达 3.07 倍，同时持续满足微调性能目标。
引用
@article{arxiv.2503.04971,
title = {Incentivizing Multi-Tenant Split Federated Learning for Foundation Models at the Network Edge},
author = {Songyuan Li and Jia Hu and Geyong Min and Haojun Huang},
journal= {arXiv preprint arXiv:2503.04971},
year = {2026}
}
备注
Accepted for publication in IEEE/ACM Transactions on Networking. Index Terms: Foundation models, Edge computing, Split federated learning, Multi-tenant system, Incentive mechanism