Recycled ADMM:以更少计算量提升分布式算法隐私与精度
密码学与安全
2018-10-09 v1 机器学习
最优化与控制
摘要
交替方向乘子法(ADMM)是求解去中心化凸优化问题的有力方法。在分布式设置中,每个节点使用其本地数据进行计算,本地结果以迭代方式在相邻节点间交换。在此迭代过程中产生数据隐私泄露,并可能在多次迭代中显著累积,使得隐私-效用权衡难以平衡。在本研究中我们提出 Recycled ADMM(R-ADMM),其对每个偶数次迭代应用线性近似,其解直接使用前一个奇数次迭代的结果计算。结果表明,在此方案下,一半的更新不产生隐私损失,且相比常规 ADMM 所需计算量少得多。我们获得了 R-ADMM 收敛的充分条件,并基于目标扰动提供了隐私分析。
引用
@article{arxiv.1810.03197,
title = {Recycled ADMM: Improve Privacy and Accuracy with Less Computation in Distributed Algorithms},
author = {Xueru Zhang and Mohammad Mahdi Khalili and Mingyan Liu},
journal= {arXiv preprint arXiv:1810.03197},
year = {2018}
}
备注
Accepted to 56th Annual Allerton Conference on Communication, Control, and Computing