纵向联邦学习中的重构攻击防御方法
机器学习
2021-07-22 v1 密码学与安全
摘要
近来，研究人员研究了联邦学习（FL）中的输入泄露问题，其中恶意方可以从共享梯度中重构用户提供的敏感训练输入。这引发了人们对 FL 的担忧，因为输入泄露与采用 FL 的隐私保护初衷相悖。尽管关于横向 FL 中输入重构的攻击与防御已有较丰富的文献，纵向 FL 中的输入泄露与保护近期才开始引起研究者的关注。本文研究如何防御纵向 FL 中的输入泄露攻击。我们设计了一个基于对抗训练的框架，包含三个模块：对抗重构、噪声正则化和距离相关性最小化。这些模块既可单独使用，也可组合使用，因为它们彼此独立。通过在大规模工业在线广告数据集上的大量实验，我们表明该框架在保护输入隐私的同时能保持模型效用。
引用
@article{arxiv.2107.09898,
title = {Defending against Reconstruction Attack in Vertical Federated Learning},
author = {Jiankai Sun and Yuanshun Yao and Weihao Gao and Junyuan Xie and Chong Wang},
journal= {arXiv preprint arXiv:2107.09898},
year = {2021}
}
备注
Accepted to International Workshop on Federated Learning for User Privacy and Data Confidentiality in Conjunction with ICML 2021 (FL-ICML'21)