如何使AI民主化并受保护：公平且差分隐私的去中心化深度学习
密码学与安全
2020-07-21 v1 分布式、并行与集群计算
机器学习
机器学习
摘要
本文首先考虑了在确保隐私的同时协作深度学习中公平性的研究问题。提出了一种通过数字令牌与本地可信度相结合的新型声誉系统以确保公平性，并结合差分隐私来保证隐私。具体而言，我们构建了一个称为 FDPDDL 的公平且差分隐私的去中心化深度学习框架，该框架通过我们开发的两阶段方案使各方以公平且隐私的方式推导更准确的本地模型：在初始化阶段，由差分隐私生成对抗网络（DPGAN）生成的人工样本用于相互基准测试各方的本地可信度并生成初始令牌；在更新阶段，使用差分隐私 SGD（DPSGD）促进协作式隐私保护深度学习，并根据各方释放梯度的质量与数量更新其本地可信度与令牌。在三种现实设置下基准数据集上的实验结果表明，FDPDDL 实现了高公平性，产生了与集中式与分布式框架相当的准确率，并优于独立框架的准确率。
引用
@article{arxiv.2007.09370,
title = {How to Democratise and Protect AI: Fair and Differentially Private Decentralised Deep Learning},
author = {Lingjuan Lyu and Yitong Li and Karthik Nandakumar and Jiangshan Yu and Xingjun Ma},
journal= {arXiv preprint arXiv:2007.09370},
year = {2020}
}
备注
Accepted for publication in TDSC