BEAS：基于区块链的异步安全联邦机器学习
密码学与安全
2022-02-08 v1 机器学习
摘要
联邦学习（FL）使多方能够分布式训练 ML 模型而不泄露其私有数据集。然而，它假设对集中式聚合器的信任，该聚合器存储并聚合模型更新。这使其易遭受恶意聚合器的梯度篡改与隐私泄露。恶意方也可通过投毒训练数据或模型梯度将后门引入联合模型。为解决这些问题，我们提出 BEAS，首个基于区块链的 N 方 FL 框架，利用梯度剪枝提供训练数据的严格隐私保证（相较现有基于噪声与裁剪的技术展现出改进的差分隐私）。异常检测协议用于最小化数据投毒攻击风险，结合梯度剪枝进一步限制模型投毒攻击的有效性。我们还定义了一种新颖协议以防止异构学习环境中的过早收敛。我们在多个数据集上进行大量实验，结果令人鼓舞：BEAS 成功防止来自数据集重构攻击的隐私泄露，并最小化投毒攻击的有效性。此外，其达到与集中式框架相近的准确率，且通信与计算开销随参与方数量线性增长。
引用
@article{arxiv.2202.02817,
title = {BEAS: Blockchain Enabled Asynchronous & Secure Federated Machine Learning},
author = {Arup Mondal and Harpreet Virk and Debayan Gupta},
journal= {arXiv preprint arXiv:2202.02817},
year = {2022}
}
备注
The Third AAAI Workshop on Privacy-Preserving Artificial Intelligence (PPAI-22) at the Thirty-Sixth AAAI Conference on Artificial Intelligence (AAAI-22)