中文

Glyph:在加密数据上快速且准确地训练深度神经网络

机器学习 2020-10-23 v3 机器学习

摘要

大数据是启用和训练深度神经网络(DNNs)的基石之一。由于缺乏专业知识,普通用户为从其数据中获益,不得不依赖并将私有数据上传给他们可能不信任的大数据公司。由于合规、法律或隐私限制,大多数用户仅愿意贡献其加密数据,而缺乏兴趣或资源参与云端的 DNN 训练。为以完全非交互方式在加密数据上训练 DNN,近期工作提出了一种基于全同态加密(FHE)的技术,通过基于 \textit{Brakerski-Gentry-Vaikuntanathan (BGV)} 的查找表实现神经网络中的所有激活函数。然而,这种低效的基于查找表的激活函数显著延长了隐私保护 DNN 的训练延迟。在本文中,我们提出 Glyph,一种基于 FHE 的方案,通过在 TFHE(环面上快速全同态加密)与 BGV 密码系统之间切换,在加密数据上快速且准确地训练 DNN。Glyph 使用对逻辑运算友好的 TFHE 实现非线性激活,而采用对向量算术友好的 BGV 执行乘累加(MAC)运算。Glyph 进一步在 DNN 训练中应用迁移学习,以提高测试准确率并减少卷积层中密文与密文之间的 MAC 运算次数。我们的实验结果表明,Glyph 在各种加密数据集上获得了最先进的测试准确率,同时将训练延迟相比先前的基于 FHE 的技术降低了 99%99\%

关键词

引用

@article{arxiv.1911.07101,
  title  = {Glyph: Fast and Accurately Training Deep Neural Networks on Encrypted Data},
  author = {Qian Lou and Bo Feng and Geoffrey C. Fox and Lei Jiang},
  journal= {arXiv preprint arXiv:1911.07101},
  year   = {2020}
}

备注

10 pages, 34th Conference on Neural Information Processing Systems (NeurIPS 2020), Vancouver, Canada