BlockFLA：基于混合区块链架构的可问责联邦学习
密码学与安全
2020-10-16 v1 分布式、并行与集群计算
机器学习
摘要
联邦学习（FL）是一种分布式、去中心化的机器学习协议。通过执行 FL，一组智能体可以在不相互共享数据集或向第三方共享的情况下联合训练模型。这使得 FL 特别适用于需要数据隐私的场景。与此同时，隐藏训练数据给攻击者提供了向训练模型注入后门的机会。已有研究表明，攻击者可在 FL 期间向训练模型注入后门，随后可利用该后门使模型对后续样本误分类。若干工作试图通过设计鲁棒聚合函数来缓解此威胁。然而，鉴于随时间推移出现了可绕过现有防御的更复杂攻击，我们在本工作中从互补角度切入该问题。具体而言，我们旨在通过检测并惩罚攻击者（可能在训练阶段结束后）来遏制后门攻击。为此，我们开发了一个基于混合区块链的 FL 框架，利用智能合约通过金钱罚没自动检测并惩罚攻击者。我们的框架具有通用性：任何聚合函数与任何攻击者检测算法均可插入其中。我们开展实验证明该框架保持了 FL 的通信高效特性，并提供实证结果表明其可通过我们所提出的新型攻击者检测算法成功惩罚攻击者。
引用
@article{arxiv.2010.07427,
title = {BlockFLA: Accountable Federated Learning via Hybrid Blockchain Architecture},
author = {Harsh Bimal Desai and Mustafa Safa Ozdayi and Murat Kantarcioglu},
journal= {arXiv preprint arXiv:2010.07427},
year = {2020}
}