面向隐私保护和公众可审计的联邦学习
信息检索
2024-05-08 v1
摘要
联邦学习( FL)因支持多个参与者在不移动私有数据集的情况下进行联合模型训练而广受关注。然而，FL中仍存在许多值得讨论的安全问题。本文我们考虑三个主要问题：1)如何确保训练过程可以被任何第三方公开审计；2)如何避免恶意参与者对训练的影响；3)如何确保私有梯度和模型不被第三方泄露。虽然已提出许多解决方案来解决上述问题，但同时同时解决这三个问题的做法鲜有涉及。本文提出一种公开可审计且具隐私保护性的联邦学习方案，能够抵抗恶意参与者上传方向错误的梯度，并使任何人都能审计和验证训练过程的正确性。具体而言，我们设计一种robust聚合算法，能够检测来自恶意参与者的错误方向梯度。然后，我们设计一种随机向量生成算法，并将其与零分享和区块链技术结合，以实现联合训练过程的公开可审计，意味着任何人都可以验证训练的正确性。最后，我们进行一系列实验，实验结果表明，该方案生成的模型在准确率上与原始FL方法相当，同时保持了安全优势。
引用
@article{arxiv.2405.04028,
title = {Masked Graph Transformer for Large-Scale Recommendation},
author = {Huiyuan Chen and Zhe Xu and Chin-Chia Michael Yeh and Vivian Lai and Yan Zheng and Minghua Xu and Hanghang Tong},
journal= {arXiv preprint arXiv:2405.04028},
year = {2024}
}