关于联邦学习中的初期行为监测问题
机器学习
2021-11-30 v2 人工智能
密码学与安全
摘要
在联邦学习（FL）中，一组工作节点在一个节点（主管）的协调下参与构建全局模型。关于 FL 的网络安全，一些攻击旨在将伪造的本地模型更新注入系统。一些防御基于恶意工作节点检测和行为模式分析。在此背景下，若无及时动态的监测方法，主管无法从系统中检测并移除恶意或不可靠的工作节点。我们的工作强调了使联邦学习过程为监测乃至行为模式分析做好准备的紧迫性。我们研究训练早期阶段学习过程中的信息，提出一种监测过程并评估所需的监测周期。目的是分析何时适宜启动检测算法，以便从系统中移除恶意或不可靠的工作节点并优化防御机制部署。我们在应用于不同文本与图像分类基准系统的 FL 过程的行为模式分析防御上测试了我们的策略。结果表明，该监测过程降低了假阳性与假阴性，从而通过使分布式学习系统在训练早期达到更好性能而提升了系统效率。
引用
@article{arxiv.2109.05385,
title = {On the Initial Behavior Monitoring Issues in Federated Learning},
author = {Ranwa Al Mallah and Godwin Badu-Marfo and Bilal Farooq},
journal= {arXiv preprint arXiv:2109.05385},
year = {2021}
}