垂直联邦学习中不可探测的数据重建攻击
机器学习
2024-12-09 v2 密码学与安全
摘要
在VFL中发起有效的恶意攻击具有独特挑战：1) 首先，鉴于客户端数据特征和模型的分布性质，每个客户端严格保护其隐私，禁止直接查询，这使任何窃取数据的方法都复杂化；2) 现有的恶意攻击改变底层VFL训练任务，因而容易被接收的梯度与诚实训练中接收的梯度进行比较所检测。为克服这些挑战，我们开发了URVFL，这是一种能够规避当前检测机制的新型攻击策略。核心思想是将判别器与辅助分类器集成，以充分利用标签信息生成针对受害客户端的恶意梯度：一方面，标签信息有助于更好地表征来自不同类别的样本的嵌入，从而实现更好的重建性能；另一方面，利用标签信息计算的恶意梯度更仿似诚实训练，使恶意梯度与诚实梯度难以区分，攻击更为隐蔽。我们的全面实验表明，URVFL显著优于现有攻击方法，并成功规避了针对恶意攻击的SOTA检测方法。进一步的消融研究和对防御的评估进一步彰显了URVFL的鲁棒性和有效性。我们的代码将在https://github.com/duanyiyao/URVFL 上提供。
引用
@article{arxiv.2404.19582,
title = {URVFL: Undetectable Data Reconstruction Attack on Vertical Federated Learning},
author = {Duanyi Yao and Songze Li and Xueluan Gong and Sizai Hou and Gaoning Pan},
journal= {arXiv preprint arXiv:2404.19582},
year = {2024}
}
备注
Accepted by NDSS 2025