RAIFLE：基于交互的联邦学习中带对抗数据操纵的重构攻击
密码学与安全
2025-03-04 v3 机器学习
摘要
联邦学习已成为依赖用户交互的机器学习领域（尤其是推荐系统与在线学习排序）中有前景的隐私保护方案。尽管关于传统联邦学习隐私的研究已相当充分，此类基于交互场景的隐私特性却鲜受关注。本工作表明，当中央服务器能控制用户所交互物品的训练特征时，用户面临其私有交互被服务器重构的更高风险。我们提出 RAIFLE，一种新颖的基于优化的攻击框架，其中服务器主动操纵呈现给用户的物品特征以提高重构成功率。我们在联邦推荐与在线学习排序场景下的实验表明，RAIFLE 比现有的梯度反演等重构攻击显著更强，在多数设定下稳定取得高性能。我们讨论了在基于交互的联邦学习背景下防御 RAIFLE 的几种可能对策的优劣。我们的代码已开源：https://github.com/dzungvpham/raifle。
引用
@article{arxiv.2310.19163,
title = {RAIFLE: Reconstruction Attacks on Interaction-based Federated Learning with Adversarial Data Manipulation},
author = {Dzung Pham and Shreyas Kulkarni and Amir Houmansadr},
journal= {arXiv preprint arXiv:2310.19163},
year = {2025}
}
备注
Published in NDSS 2025