面向分布式医疗机器学习的差分隐私 ADMM
机器学习
2020-12-10 v3 密码学与安全
机器学习
摘要
由于海量数据分布在多个地点，分布式机器学习引起了大量研究兴趣。交替方向乘子法 (Alternating Direction Method of Multipliers, ADMM) 是设计分布式机器学习算法的一种强有力方法，其中每个智能体在本地数据集上计算，并在迭代过程中与相邻智能体交换计算结果。若本地数据敏感，则此迭代过程中存在显著的隐私泄露。本文提出一种差分隐私 ADMM 算法 (P-ADMM)，通过插入方差线性衰减的高斯噪声，提供动态零集中差分隐私 (dynamic zero-concentrated differential privacy, dynamic zCDP)。我们证明，P-ADMM 与非隐私版本具有相同的收敛速率，即对于一般凸和强凸问题分别为 （ 为迭代次数）和线性收敛，同时提供差分隐私保证。此外，通过在真实世界数据集上的实验，我们经验性地表明 P-ADMM 在现有基于差分隐私的 ADMM 算法中具有已知最佳性能。
引用
@article{arxiv.1901.02094,
title = {Differentially Private ADMM for Distributed Medical Machine Learning},
author = {Jiahao Ding and Xiaoqi Qin and Wenjun Xu and Yanmin Gong and Chi Zhang and Miao Pan},
journal= {arXiv preprint arXiv:1901.02094},
year = {2020}
}