信息物理关键基础设施中差分隐私联邦学习的对抗分析
密码学与安全
2024-10-28 v2 分布式、并行与集群计算
摘要
联邦学习（FL）在信息物理关键基础设施中执行数据驱动分析已日益流行。由于 FL 过程可能涉及客户端的机密信息，差分隐私（DP）近来被提出以使其免受对抗推断的攻击。然而，我们发现尽管 DP 极大缓解了隐私担忧，额外的 DP 噪声却为 FL 中的模型投毒打开了新威胁。尽管如此，文献中极少有工作研究这种对 DP 噪声的对抗性利用。为弥补此不足，本文提出一种新颖的自适应模型投毒技术 {\alpha}-MPELM}，攻击者可通过它利用额外的 DP 噪声规避最先进的异常检测技术并阻止 FL 模型的最优收敛。我们在最先进的异常检测方法上就检测准确率和验证损失评估了所提出的攻击。我们提出的 {\alpha}-MPELM 攻击的主要意义在于，它将最先进的异常检测准确率降低了 6.8%（范数检测）、12.6%（准确率检测）和 13.8%（混合检测）。此外，我们提出了一种基于强化学习的 DP 级别选择过程来防御 {\alpha}-MPELM 攻击。实验结果证实，我们的防御机制可在无人干预下收敛至最优隐私策略。
引用
@article{arxiv.2204.02654,
title = {Adversarial Analysis of the Differentially-Private Federated Learning in Cyber-Physical Critical Infrastructures},
author = {Md Tamjid Hossain and Shahriar Badsha and Hung La and Haoting Shen and Shafkat Islam and Ibrahim Khalil and Xun Yi},
journal= {arXiv preprint arXiv:2204.02654},
year = {2024}
}
备注
16 pages, 9 figures, 5 tables. This work has been submitted to IEEE for possible publication