MYSTIKO：云中介的隐私联邦梯度下降
密码学与安全
2020-12-02 v1 分布式、并行与集群计算
机器学习
摘要
联邦学习使多个分布式参与者（可能位于不同云上）能够通过共享参数/梯度来协作训练机器/深度学习模型。然而，共享梯度而非集中数据，可能并不如人们预期的那样私密。针对明文梯度的逆向工程攻击已被证明在实际中可行。现有的差分隐私联邦学习方案虽有前景，但导致模型精度下降且需要不平凡的超参数调优。在本文中，我们考察加法同态加密（具体为Paillier密码）的使用，以设计安全联邦梯度下降技术，其(i)不需要添加统计噪声或超参数调优，(ii)不改变最终模型的精度或效用，(iii)确保参与者的明文模型参数/梯度绝不泄露给任何其他参与者或参与联邦学习任务的第三方协调者，(iv)最小化对任何第三方协调者的信任，以及(v)高效、开销最小且成本可控。
引用
@article{arxiv.2012.00740,
title = {MYSTIKO : : Cloud-Mediated, Private, Federated Gradient Descent},
author = {K. R. Jayaram and Archit Verma and Ashish Verma and Gegi Thomas and Colin Sutcher-Shepard},
journal= {arXiv preprint arXiv:2012.00740},
year = {2020}
}
备注
IEEE CLOUD 2020