面向联邦学习的本地差分隐私
密码学与安全
2022-08-04 v2 数据库
摘要
成员推断和模型记忆等高级对抗攻击可使联邦学习(FL)变得脆弱并可能泄露敏感私有数据。与其他差分隐私(DP)方案相比,本地差分隐私(LDP)方法因更强的隐私概念和原生支持数据分布而日益流行。然而,DP 方案假设 FL 服务器(聚合模型者)是诚实的(诚实地运行 FL 协议)或半诚实的(诚实地运行 FL 协议同时试图获取尽可能多的信息)。这些假设使此类方案在真实场景中不切实际且不可靠。此外,在真实工业环境(如医疗)中,分布式实体(如医院)已本地运行机器学习模型(该设置亦称跨孤岛(cross-silo)设置)。现有方案未提供可扩展的隐私保护 FL 机制以在此类可能含不可信方的设置下使用。本文提出一种面向工业环境的新型本地差分隐私 FL(命名为 LDPFL)协议。LDPFL 可在含不可信实体的工业环境中运行,同时提供比现有方案更强的隐私保证。与现有方法相比,LDPFL 在较小隐私预算(如 epsilon = 0.5)下展现出高 FL 模型性能(高达 98%)。
引用
@article{arxiv.2202.06053,
title = {Local Differential Privacy for Federated Learning},
author = {M. A. P. Chamikara and Dongxi Liu and Seyit Camtepe and Surya Nepal and Marthie Grobler and Peter Bertok and Ibrahim Khalil},
journal= {arXiv preprint arXiv:2202.06053},
year = {2022}
}
备注
17 pages