联邦元学习中的后门攻击
机器学习
2020-12-17 v2 密码学与安全
分布式、并行与集群计算
机器学习
摘要
联邦学习允许多个用户在不泄露数据隐私的情况下协作训练一个共享的分类模型。这种由中心服务器聚合模型更新的方法已被证明易受投毒后门攻击：恶意用户可篡改共享模型，使其对任意将特定输入分类为给定类别。在本文中，我们分析了后门攻击对联邦元学习的影响，其中用户训练的模型仅需少量样本即可适配到不同的输出类别集合。尽管这种适配能力原则上可使联邦学习框架对后门攻击更具鲁棒性（当新训练样本为良性时），我们发现即便单样本攻击也能非常成功并在后续训练中持续存在。为应对这些漏洞，我们提出了一种受匹配网络启发的防御机制，其中输入的类别由其特征与带标签支持集的相似度预测。通过从与联邦共享的模型中移除决策逻辑，后门攻击的成功率与持续性被大幅降低。
引用
@article{arxiv.2006.07026,
title = {Backdoor Attacks on Federated Meta-Learning},
author = {Chien-Lun Chen and Leana Golubchik and Marco Paolieri},
journal= {arXiv preprint arXiv:2006.07026},
year = {2020}
}
备注
13 pages, 19 figures, NeurIPS Workshop on Scalability, Privacy, and Security in Federated Learning (NeurIPS-SpicyFL), 2020