中文

QUOTIENT:两方安全神经网络训练与预测

密码学与安全 2019-07-09 v1 机器学习

摘要

近来,大量工作致力于为机器学习任务设计安全协议。其中多数旨在实现从高精度深度神经网络(DNN)的安全预测。然而,由于 DNN 是在数据上训练的,一个关键问题是如何也能安全地训练此类模型。少数已有的安全 DNN 训练工作要么聚焦于为现有训练算法设计定制协议,要么致力于开发专用训练算法再套用通用安全协议。本工作中,我们研究将训练算法与新颖安全协议协同设计的优势,在两方面均引入优化。我们提出 QUOTIENT,一种用于 DNN 离散化训练的新方法,以及为其定制的双方安全协议。QUOTIENT 融合了最先进 DNN 训练的关键组件(如层归一化与自适应梯度方法),并在双方计算下的 DNN 训练中超越已有最优水平。相较先前工作,我们在广域网时间上获得 50 倍提升,在绝对准确率上提升 6%。

关键词

引用

@article{arxiv.1907.03372,
  title  = {QUOTIENT: Two-Party Secure Neural Network Training and Prediction},
  author = {Nitin Agrawal and Ali Shahin Shamsabadi and Matt J. Kusner and Adrià Gascón},
  journal= {arXiv preprint arXiv:1907.03372},
  year   = {2019}
}