深度学习的安全量化训练
机器学习
2022-07-19 v2
摘要
我们使用上述设定中常用的量化,在安全多方计算(MPC)中实现了神经网络的训练。我们是首个给出纯粹在 MPC 中训练、且精度与通过明文计算训练的相同卷积神经网络相差在 0.2 个百分点以内的 MNIST 分类器的工作。更具体地,我们训练了一个具有两个卷积层与两个全连接层的网络,在 3.5 小时内达到 99.2% 准确率(在 99% 准确率下不到一小时)。我们还实现了用于 CIFAR-10 的 AlexNet,其在几小时内收敛。我们开发了用于指数运算与平方根倒数的新协议。最后,我们在多达十方的多种 MPC 安全模型下展示了实验,包括诚实多数与不诚实多数,以及半诚实与恶意安全。
引用
@article{arxiv.2107.00501,
title = {Secure Quantized Training for Deep Learning},
author = {Marcel Keller and Ke Sun},
journal= {arXiv preprint arXiv:2107.00501},
year = {2022}
}
备注
27 pages