面向纵向联邦学习的实用通用后门攻击
密码学与安全
2023-06-21 v1 机器学习
摘要
联邦学习（FL）旨在促进多个组织间的数据协作而不暴露数据隐私，但面临潜在的安全风险。一种严重威胁是后门攻击，攻击者将特定触发器注入训练数据集以操纵模型的预测。现有大多数FL后门攻击基于横向联邦学习（HFL），其中不同方拥有的数据具有相同的特征。然而，与HFL相比，针对纵向联邦学习（VFL）的后门攻击很少被研究，在VFL中每方仅持有不相交的特征子集且标签仅由一方拥有。该攻击的主要挑战是使无法访问数据标签的攻击者执行有效攻击。为此，我们提出BadVFL，一种无需标签信息即可向受害模型注入后门触发器的新颖实用方法。BadVFL主要包括两个关键步骤。首先，为解决攻击者对标签无知的挑战，我们引入SDD模块，可基于梯度追踪数据类别。其次，我们提出SDP模块，通过增强触发器与攻击目标之间的决策依赖性来提高攻击有效性。大量实验表明，BadVFL支持多种数据集与模型，并以仅1%的投毒率实现超过93%的攻击成功率。
引用
@article{arxiv.2306.10746,
title = {Practical and General Backdoor Attacks against Vertical Federated Learning},
author = {Yuexin Xuan and Xiaojun Chen and Zhendong Zhao and Bisheng Tang and Ye Dong},
journal= {arXiv preprint arXiv:2306.10746},
year = {2023}
}
备注
17 pages, 7 figures, To appear in ECML PKDD 2023