ADI：纵向联邦学习系统中的对抗主导输入
密码学与安全
2024-11-14 v4 分布式、并行与集群计算
机器学习
摘要
纵向联邦学习(VFL)系统近来成为一种重要概念，用于处理分布在多个独立源中而无需集中化的数据。多个参与方以隐私保护方式基于本地数据协作训练模型。迄今，VFL 已成为机构间安全学习模型的事实标准方案，允许共享知识而不损害任何个体的隐私。尽管 VFL 系统蓬勃发展，我们发现某参与方的特定输入(称为对抗主导输入，ADI)可将该联合推断主导至对抗者意愿的方向，并迫使其他(受害)参与方贡献可忽略，丧失通常按其在联邦学习场景中贡献重要性所提供的奖励。我们对 ADI 开展系统研究：首先证明其在典型 VFL 系统中的存在性；继而提出基于梯度的方法合成多种格式的 ADI 并攻击常见 VFL 系统；进一步以“受害”参与方的显著分数为引导，发起灰盒模糊测试，在隐私保护方式下扰动对抗者控制的输入并系统探索 VFL 攻击面。我们就合成 ADI 中关键参数与设置的影响作了深入研究。我们的研究揭示了新的 VFL 攻击机会，促进在泄露前识别未知威胁并构建更安全的 VFL 系统。
引用
@article{arxiv.2201.02775,
title = {ADI: Adversarial Dominating Inputs in Vertical Federated Learning Systems},
author = {Qi Pang and Yuanyuan Yuan and Shuai Wang and Wenting Zheng},
journal= {arXiv preprint arXiv:2201.02775},
year = {2024}
}