迈向公平且隐私保护的联邦深度模型
密码学与安全
2020-05-20 v3 人工智能
机器学习
机器学习
摘要
当前独立的深度学习框架往往导致过拟合与低效用。该问题可通过集中式框架(部署中央服务器在所有方的联合数据上训练全局模型)或分布式框架(利用参数服务器聚合本地模型更新)来解决。基于服务器的方案容易出现单点故障问题。在这方面,协作学习框架(如联邦学习(FL))更具鲁棒性。现有联邦学习框架忽略了一个重要的参与维度:公平性。所有方被给予相同的最终模型而不考虑其贡献。为解决这些问题,我们提出一种去中心化的公平且隐私保护深度学习(FPPDL)框架,将公平性纳入联邦深度模型。具体而言,我们设计了一种本地信誉互评机制以保证公平,以及一种三层洋葱式加密方案以保证精度与隐私。与现有 FL 范式不同,在 FPPDL 下,每个参与者获得不同版本的 FL 模型,其性能与其贡献相称。在基准数据集上的实验表明,FPPDL 平衡了公平性、隐私与精度。它使联邦学习生态系统能够检测并隔离低贡献方,从而促进负责任的参与。
引用
@article{arxiv.1906.01167,
title = {Towards Fair and Privacy-Preserving Federated Deep Models},
author = {Lingjuan Lyu and Jiangshan Yu and Karthik Nandakumar and Yitong Li and Xingjun Ma and Jiong Jin and Han Yu and Kee Siong Ng},
journal= {arXiv preprint arXiv:1906.01167},
year = {2020}
}
备注
Accepted for publication in TPDS