ABC-FL：联邦学习中的异常与良性客户端分类
机器学习
2022-12-02 v4 人工智能
密码学与安全
分布式、并行与集群计算
摘要
联邦学习是一个为保护数据隐私而设计的分布式机器学习框架，即在整个训练和测试过程中本地数据保持私密。联邦学习因允许在使用机器学习技术的同时保护隐私而日益普及。然而，它继承了深度学习技术中出现的漏洞和易受攻击性。例如，由于其分布式特性和对原始数据的不可访问性，联邦学习特别容易受到数据投毒攻击，这可能使其性能和完整性恶化。此外，由于数据是非独立同分布的，正确识别恶意客户端极其困难。真实世界的数据可能复杂多样，使得在没有直接访问原始数据的情况下极难将其与恶意数据区分开来。先前的研究集中在检测恶意客户端，同时仅将具有独立同分布（IID）数据的客户端视为良性。本研究中，我们提出了一种在良性客户端具有 non-IID 数据时从良性客户端中检测并分类异常客户端的方法。我们提出的方法利用了特征降维、动态聚类和基于余弦相似度的裁剪。实验结果验证了我们提出的方法不仅能对恶意客户端进行分类，还能减轻其在整个过程中的负面影响。我们的发现可用于未来的研究，以在利用多样数据构建模型时有效消除异常客户端。
引用
@article{arxiv.2108.04551,
title = {ABC-FL: Anomalous and Benign client Classification in Federated Learning},
author = {Hyejun Jeong and Joonyong Hwang and Tai Myung Chung},
journal= {arXiv preprint arXiv:2108.04551},
year = {2022}
}