安全聚合联邦深度学习中的攻击与防御探析
计算与语言
2024-10-15 v1
摘要
联邦学习通过在多样化数据上协同训练全局模型，保留数据局部性，无需将用户数据传输到中心服务器。然而，数据隐私仍面临风险，攻击者可通过针对用户在每次学习迭代中发送的更新来攻击用户训练数据。安全聚合协议旨在掩码/加密用户更新，使中心服务器能够聚合被掩码处理的信息。MicroSecAgg(PoPETS 2024)提出一种单服务器安全聚合协议，旨在通过实现对要在多个训练迭代中重复使用的密钥的一次性设置，从而缓解现有方法的高通信复杂度。在本文中，我们识别了MicroSecAgg中的安全漏洞，使其隐私保证受到挑战。我们详细阐述了该漏洞及我们的攻击，展示了对手如何利用可预测的掩码值来侵犯用户隐私。我们的发现凸显了在安全聚合协议中实施动态且不可预测掩码策略的关键需求。我们提出了缓解这些漏洞的潜在对策，以确保安全聚合框架中的强隐私保护。
引用
@article{arxiv.2410.09675,
title = {COrAL: Order-Agnostic Language Modeling for Efficient Iterative Refinement},
author = {Yuxi Xie and Anirudh Goyal and Xiaobao Wu and Xunjian Yin and Xiao Xu and Min-Yen Kan and Liangming Pan and William Yang Wang},
journal= {arXiv preprint arXiv:2410.09675},
year = {2024}
}
备注
12 pages, 7 figures, 3 tables (23 pages, 9 figures, 4 tables including references and appendices)