SOTERIA：为隐私推理寻找高效的神经网络
密码学与安全
2020-07-28 v1 机器学习
机器学习
摘要
机器学习即服务（ML-as-a-service）正日益普及，其中云服务器托管训练好的模型，并向用户提供预测（推理）服务。在此场景下，我们的目标是以适度的计算和通信开销，保护用户输入查询以及服务器端模型参数的机密性。现有解决方案主要提出微调密码学方法，使其对已知的固定模型架构变得高效。这类方法的缺点是，模型本身从未被设计为能与现有的高效密码学计算协同工作。我们观察到，在训练期间选定的网络架构、内部函数和模型参数，会显著影响推理过程中密码学方法的计算和通信开销。基于这一观察，我们提出了 SOTERIA——一种训练方法，用于构建在设计上就适用于隐私推理的高效模型架构。我们使用神经架构搜索算法，其双重目标是优化模型准确性和使用密码学原语进行安全推理的开销。鉴于训练期间修改模型的灵活性，我们找到了既准确又适合隐私计算的高效模型。我们选择混淆电路作为底层密码学原语，因其表达能力和效率，但这种方法可以扩展到混合多方计算设置。我们在 MNIST 和 CIFAR10 数据集上对 SOTERIA 进行了实证评估，并与先前工作进行了比较。我们的结果证实，SOTERIA 确实能有效平衡性能和准确性。
引用
@article{arxiv.2007.12934,
title = {SOTERIA: In Search of Efficient Neural Networks for Private Inference},
author = {Anshul Aggarwal and Trevor E. Carlson and Reza Shokri and Shruti Tople},
journal= {arXiv preprint arXiv:2007.12934},
year = {2020}
}