通过激励机制迈向公平的图联邦学习
机器学习
2023-12-22 v1 人工智能
密码学与安全
社会与信息网络
摘要
图联邦学习(FL)已成为一种关键范式,使多个智能体能够在保护本地数据隐私的同时协同训练图模型。然而,当前的努力忽视了一个关键问题:智能体是自利的,在没有公平且令人满意的激励的情况下会犹豫是否分享数据。本文是首个通过研究图联邦学习的激励机制来解决该问题的尝试。我们在图联邦学习中识别出一个独特现象:存在对联邦构成潜在危害的智能体以及贡献延迟的智能体。这与以往假设所有智能体均积极且及时贡献的FL激励机制形成对比。鉴于此,本文提出了一种专为公平图联邦学习量身定制的新型激励机制,整合了源自模型梯度和报酬的激励。为实现这一点,我们首先引入了一个智能体估值函数,旨在通过引入两个标准来量化智能体贡献:梯度对齐和图多样性。此外,由于图联邦学习中的高度异质性,在准确率和公平性之间取得平衡变得尤为关键。我们引入了模体原型以提升准确率,其在服务器与智能体之间通信,增强了全局模型聚合并辅助智能体进行局部模型优化。大量实验表明,我们的模型在准确率和模型梯度公平性之间实现了最佳权衡,并具有卓越的报酬公平性。
引用
@article{arxiv.2312.13306,
title = {Towards Fair Graph Federated Learning via Incentive Mechanisms},
author = {Chenglu Pan and Jiarong Xu and Yue Yu and Ziqi Yang and Qingbiao Wu and Chunping Wang and Lei Chen and Yang Yang},
journal= {arXiv preprint arXiv:2312.13306},
year = {2023}
}
备注
15 pages, 4 figures, accepted by AAAI'24