SafetyNets：不可信云上深度神经网络的可验证执行
机器学习
2021-05-14 v1 密码学与安全
摘要
使用深度神经网络的推理常因计算需求大而被外包给云。然而，这引发了一个根本性的信任问题。客户端如何能确信云正确执行了推理？懒惰的云提供商可能使用更简单但精度较低的模型来减少自身计算负载，或更糟，恶意修改发送给客户端的推理结果。我们提出 SafetyNets，一个使不可信服务器（云）能够向客户端提供其所代客执行的推理任务正确性的简短数学证明的框架。具体而言，SafetyNets 开发并实现了一种专用的交互式证明（IP）协议，用于一类深度神经网络（即那些可表示为算术电路的网络）的可验证执行。我们在三层和四层深度神经网络上的实证结果表明，SafetyNets 对客户端和服务器的运行时开销均较低。SafetyNets 以高概率检测不可信服务器对神经网络的任何错误计算，同时在 MNIST 数字识别（99.4%）和 TIMIT 语音识别任务（75.22%）上达到最先进精度。
引用
@article{arxiv.1706.10268,
title = {SafetyNets: Verifiable Execution of Deep Neural Networks on an Untrusted Cloud},
author = {Zahra Ghodsi and Tianyu Gu and Siddharth Garg},
journal= {arXiv preprint arXiv:1706.10268},
year = {2021}
}