面向可扩展与隐私保护的深度神经网络：算法-密码学协同设计
机器学习
2022-02-22 v2 密码学与安全
摘要
深度神经网络（DNNs）在各种现实应用中取得了显著进展，尤其在提供丰富训练数据时。然而，数据孤岛已成为当前严重的问题。现有工作从算法视角或密码学视角构建隐私保护 DNN 模型。前者主要将数据持有方之间或数据持有方与服务器之间的 DNN 计算图进行切分，展现出良好可扩展性但存在精度损失与潜在隐私风险。相反，后者利用耗时的密码学技术，具有强隐私保障但可扩展性差。本文从算法-密码学协同视角提出 SPNN——一种可扩展且隐私保护的深度神经网络学习框架。从算法视角，我们将 DNN 模型计算图切分为两部分，即由数据持有方执行的私有数据相关计算，以及委托给高计算能力服务器的其余繁重计算。从密码学视角，我们提出使用两类密码学技术，即秘密共享与同态加密，供孤立的数据持有方私密且协作地进行私有数据相关计算。此外，我们在去中心化设置中实现 SPNN 并引入用户友好 API。基于真实数据集的实验结果展示了 SPNN 的优越性。
引用
@article{arxiv.2012.09364,
title = {Towards Scalable and Privacy-Preserving Deep Neural Network via Algorithmic-Cryptographic Co-design},
author = {Jun Zhou and Longfei Zheng and Chaochao Chen and Yan Wang and Xiaolin Zheng and Bingzhe Wu and Cen Chen and Li Wang and Jianwei Yin},
journal= {arXiv preprint arXiv:2012.09364},
year = {2022}
}
备注
Accepted by ACM TIST