协作联邦学习的机制设计：Shapley 值的陷阱

本文研究了机制设计对联邦学习（FL）赋能的协作学习系统的影响。我们提出了一个多动作协作联邦学习（MCFL）框架，刻画了智能体策略、平台机制与 FL 算法之间的相互作用——即协作学习中的“三体问题”。本工作展示了 FL 的收敛速率与计算效率如何由机制诱导的智能体参与均衡内生决定。由此，我们建立了协作学习系统中激励设计与底层优化算法性能之间的直接联系，这一联系在现有文献中很大程度上被忽视。具体而言，我们刻画了两种著名机制下的智能体参与均衡：Shapley 值（SV）机制与边际贡献（MC）机制。尽管 SV 在剩余分配上是公平的且满足预算平衡，但它存在一个致命陷阱：智能体被激励将数据拆分到新创建的虚假身份中。这在 MCFL 环境下尤为关键，因为它导致 FL 优化的收敛缓慢，即使在单轮成本固定的情况下也会增加所需的同步/通信轮数。相比之下，虽然 MC 不满足预算平衡，但它对此类策略性操纵具有稳健性，并能诱导最大化 MCFL 系统效率的均衡。总体而言，我们的研究为 MCFL 系统中激励与算法的联合设计奠定了基础。我们提供了关于 SV 陷阱的洞察：它诱导的系统均衡会导致巨大的训练成本和更慢的收敛速度，最终破坏协作学习的有效性。