中文

SIRNN:用于安全 RNN 推理的数学库

密码学与安全 2021-05-11 v1 机器学习 数学软件

摘要

像循环神经网络(RNNs)这类复杂的机器学习(ML)推理算法会使用数学库中的标准函数,如指数、sigmoid、tanh 和平方根倒数。尽管先前关于安全两方推理的工作为卷积神经网络(CNNs)提供了专用协议,但这些数学算子的现有安全实现依赖于通用的两方计算(2PC)协议,存在高通信开销。我们为数学函数提供了新的专用 2PC 协议,关键是利用查找表和混合位宽来解决这一性能开销;我们的数学函数协议比先前工作少通信多达 423 倍的数据。我们的数学实现使用的一些混合位宽运算包括(零和带符号)扩展、不同形式的截断、混合位宽操作数乘法以及数位分解(将位分解推广到更大数位)。对于这些基本运算中的每一个,我们都构建了比通用 2PC 通信更高效且可独立使用的专用 2PC 协议。此外,我们的数学实现在数值上是精确的,确保安全实现保持明文下的模型精度。我们基于这些新协议构建了 SIRNN,一个用于端到端安全两方 DNN 推理的库,它提供了首个在时序传感器数据上运行的 RNN、在语音数据上运行的 RNN,以及结合 CNN 和 RNN 用于识别图像中所有头部的先进 ML 架构的安全实现。我们的评估表明,与使用现有最先进 2PC 框架推理这些模型相比,SIRNN 实现了高达三个数量级的性能提升。

关键词

引用

@article{arxiv.2105.04236,
  title  = {SIRNN: A Math Library for Secure RNN Inference},
  author = {Deevashwer Rathee and Mayank Rathee and Rahul Kranti Kiran Goli and Divya Gupta and Rahul Sharma and Nishanth Chandran and Aseem Rastogi},
  journal= {arXiv preprint arXiv:2105.04236},
  year   = {2021}
}

备注

IEEE Security and Privacy 2021