面向联邦学习网络的智能安全增强
密码学与安全
2020-08-20 v1 机器学习
网络与互联网体系结构
摘要
随着传统集中式学习网络(CLN)在隐私保护、通信开销和可扩展性方面面临日益严峻的挑战,联邦学习网络(FLN)作为一种有前景的替代范式被提出,以支持机器学习(ML)模型的训练。与 CLN 中数据的集中存储与处理不同,FLN 利用大量边缘设备(ED)分布式地存储数据并执行训练。由此,FLN 中的 ED 可本地保留训练数据,从而保护隐私并降低通信开销。然而,由于 FLN 内的模型训练依赖于所有 ED 的贡献,若部分 ED 上传错误或伪造的训练结果(即投毒攻击),训练过程便会遭到破坏。本文综述了 FLN 的脆弱性,特别概述了投毒攻击与主流对策。然而,现有对策仅能提供被动保护,且未考虑为 ED 贡献所支付的训练费用,导致训练成本不必要地偏高。为此,我们提出一种面向 FLN 的智能安全增强框架。具体而言,开发了先验证后聚合(VBA)流程,以识别并剔除 ED 中的非良性训练结果。随后,应用深度强化学习(DRL)学习 ED 的行为模式,并主动选择能够提供良性训练结果且收取较低训练费用的 ED。仿真结果表明,所提框架能高效且有效地保护 FLN。
引用
@article{arxiv.2008.08330,
title = {Toward Smart Security Enhancement of Federated Learning Networks},
author = {Junjie Tan and Ying-Chang Liang and Nguyen Cong Luong and Dusit Niyato},
journal= {arXiv preprint arXiv:2008.08330},
year = {2020}
}