纵向联邦学习中DNN训练的特征重构攻击与对策
机器学习
2022-10-14 v1
摘要
联邦学习（FL）以其纵向形式在机构间日益部署，以促进对孤岛数据的安全协同训练。在纵向FL（VFL）中，参与者持有同一组样本实例的不相交特征。其中仅有一个参与者拥有标签。该参与者称为主动方，发起训练并与其他称为被动方的参与者交互。尽管VFL采用日益增多，但主动方能否及如何从重动方提取特征数据，尤其在训练深度神经网络（DNN）模型时，在很大程度上仍属未知。本文首次尝试研究VFL中DNN训练的特征安全问题。我们考虑一个在主动方与被动方之间划分的DNN模型，其中被动方仅持有输入层的一个子集并展现某些二值类别特征。利用从精确覆盖问题出发的归约，我们证明重构那些二值特征是NP难的。通过分析，我们证明除非特征维度极大，否则无论理论上还是实践中，发起一种以高效基于搜索的算法进行的重构攻击仍是可行的，该算法胜过当前的特征保护技术。为解决此问题，我们开发了一种针对重构攻击的新颖特征保护方案，其有效地将搜索误导至某些预指定的随机值。通过大量实验，我们表明我们的保护方案在各种VFL应用中抵御特征重构攻击且不带来精度损失。
引用
@article{arxiv.2210.06771,
title = {Feature Reconstruction Attacks and Countermeasures of DNN training in Vertical Federated Learning},
author = {Peng Ye and Zhifeng Jiang and Wei Wang and Bo Li and Baochun Li},
journal= {arXiv preprint arXiv:2210.06771},
year = {2022}
}