暗处起舞：不可信环境下的私有多方机器学习
密码学与安全
2019-02-26 v2 分布式、并行与集群计算
机器学习
摘要
当今的分布式机器学习（ML）系统采用一种简单的威胁模型：数据源必须信任一个中心化的 ML 过程。我们提出了一种中介学习抽象，允许数据源在不可信环境下以可证明的隐私保障贡献于一个全局共享模型。我们基于联邦学习（多方 ML 的最先进技术）构建 TorMentor——一个支持私有多方 ML 的匿名隐藏服务，从而实现该抽象。我们通过刻画、开发并评估中介学习环境下的新攻击以及针对这些攻击的新防御，定义了一种新的威胁模型。我们表明 TorMentor 能有效保护数据提供方免受已知 ML 攻击，同时为其提供模型精度与隐私之间的可调权衡。我们在 Azure/Tor 上通过本地与地理分布式部署评估了 TorMentor。在一个包含 200 个客户端、每客户端 14 MB 数据的实验中，我们的原型使用随机梯度下降在 65 秒内训练了一个逻辑回归模型。代码见：https://github.com/DistributedML/TorML
引用
@article{arxiv.1811.09712,
title = {Dancing in the Dark: Private Multi-Party Machine Learning in an Untrusted Setting},
author = {Clement Fung and Jamie Koerner and Stewart Grant and Ivan Beschastnikh},
journal= {arXiv preprint arXiv:1811.09712},
year = {2019}
}
备注
16 pages