层次化联邦深度学习的安全性评估
机器学习
2024-08-21 v1 人工智能
密码学与安全
摘要
层次化联邦学习（HFL）是一种有前景的分布式深度学习模型训练范式，但其存在来自对抗攻击的关键安全隐患。本研究通过聚焦其对推理时和训练时对抗攻击的鲁棒性，提出一种新颖方法对 HFL 的安全性进行调查与评估。通过在多样化数据集和攻击场景下进行一系列广泛实验，我们发现 HFL 凭借其层次化结构展现出对非定向训练时攻击的鲁棒性。然而，定向攻击，特别是后门攻击，会利用这一架构，尤其是在恶意客户端位于边缘服务器的重叠覆盖区域时。因此，HFL 在其鲁棒性上呈现出双重特性，展示了其通过层次化聚合从攻击中恢复的能力，从而增强了其适用于对抗训练，进一步强化了其对抗推理时攻击的抵抗力。这些见解强调了 HFL 系统中需要采取平衡的安全策略，在利用其固有优势的同时有效缓解脆弱性。
引用
@article{arxiv.2408.10752,
title = {Security Assessment of Hierarchical Federated Deep Learning},
author = {D Alqattan and R Sun and H Liang and G Nicosia and V Snasel and R Ranjan and V Ojha},
journal= {arXiv preprint arXiv:2408.10752},
year = {2024}
}