PDSL：面向异构数据分布的隐私保护去中心化随机学习
机器学习
2025-04-15 v2
摘要
在去中心化学习范式中，一组智能体利用分布式数据集协同学习全局模型，而无需中央服务器。然而，由于各智能体本地数据的异构性，学习鲁棒的全局模型颇具挑战。此外，智能体之间的协作依赖其梯度信息的交换，这会导致隐私泄露风险。为此，本文提出了 PDSL，即一种面向异构数据分布的隐私保护去中心化随机学习算法。一方面，我们创新性地利用 Shapley 值，使得每个智能体能够精确衡量其异构邻居对全局学习目标的贡献；另一方面，我们利用差分隐私概念，防止每个智能体在向其邻居贡献梯度信息时遭受隐私泄露。我们进行了坚实的理论分析和广泛的实验，展示了 PDSL 算法在隐私保护和收敛性方面的有效性。
引用
@article{arxiv.2503.23726,
title = {PDSL: Privacy-Preserved Decentralized Stochastic Learning with Heterogeneous Data Distribution},
author = {Lina Wang and Yunsheng Yuan and Chunxiao Wang and Feng Li},
journal= {arXiv preprint arXiv:2503.23726},
year = {2025}
}