SplitFed 学习的安全性分析
机器学习
2022-12-06 v1 人工智能
密码学与安全
摘要
Split Learning (SL，分割学习) 与 Federated Learning (FL，联邦学习) 是两种突出的分布式协作学习技术，它们通过使客户端永不与其他客户端和服务器共享私有数据来维护数据隐私，并在智能医疗、智能城市和智能工业中发现了广泛的物联网应用。先前工作已广泛探索了 FL 以投毒攻击形式存在的安全漏洞。为减轻这些攻击的影响，也已提出若干防御方法。近来，一种混合了这两种学习技术的方法（通常称为 SplitFed）出现，它利用了二者的优势（训练快速）并消除了其固有缺点（集中式模型更新）。在本文中，我们首次对 SplitFed 针对强模型投毒攻击的鲁棒性进行实证分析。我们观察到，与已知具有维度灾难的 FL 相比，SplitFed 中的模型更新维度显著更小。我们表明，维度更高的大模型更易受隐私与安全攻击，而 SplitFed 中的客户端不拥有完整模型且维度较低，使其对现有模型投毒攻击更具鲁棒性。我们的结果显示，由于模型投毒攻击导致的准确率下降，SplitFed 相比 FL 低 5 倍。
引用
@article{arxiv.2212.01716,
title = {Security Analysis of SplitFed Learning},
author = {Momin Ahmad Khan and Virat Shejwalkar and Amir Houmansadr and Fatima Muhammad Anwar},
journal= {arXiv preprint arXiv:2212.01716},
year = {2022}
}