去中心化联邦学习的拓扑相关隐私界
分布式、并行与集群计算
2023-12-14 v1
摘要
去中心化联邦学习（Federated Learning, FL）因其相较于中心化联邦学习具有更好的鲁棒性和可扩展性而备受关注。它以点对点通信为核心，而非依赖中央服务器进行模型聚合。尽管先前的研究已深入探讨了去中心化 FL 的诸多因素（如聚合方法和隐私保护技术），但影响隐私的一个关键方面却鲜有探索：底层图拓扑。本文在不损害准确性的条件下推导出了去中心化 FL 的严格隐私界，填补了这一空白，并突出了图拓扑的关键作用。具体而言，我们证明了每次模型聚合步骤的最小隐私损失取决于我们所称的“诚实组件”的大小，即排除所有不可信参与者后网络中的最大连通子图，这与网络鲁棒性密切相关。我们的分析表明，抗攻击网络将提供更优的隐私保证。我们通过研究泊松网络和幂律网络进一步验证了这一点，结果表明后者抗攻击能力较弱，确实会泄露更多隐私。除理论分析外，我们还通过考察两种不同的隐私攻击（成员推理攻击和梯度反演攻击）巩固了我们的发现。
引用
@article{arxiv.2312.07956,
title = {Topology-Dependent Privacy Bound For Decentralized Federated Learning},
author = {Qiongxiu Li and Wenrui Yu and Changlong Ji and Richard Heusdens},
journal= {arXiv preprint arXiv:2312.07956},
year = {2023}
}