OPAF:循环神经网络中非线性激活函数的优化安全两方计算协议
密码学与安全
2024-03-04 v1
摘要
深度神经网络 (DNN) 通常涉及卷积、池化和激活函数。由于对隐私的日益关注,隐私保护 DNN 已成为一个热门研究课题。一般来说,卷积和池化操作可以由加法同态加密和安全比较支持,但激活函数的安全实现对于准确性和效率的要求来说并不那么直接,特别是对于指数、sigmoid 和 tanh 等非线性函数。本文特别关注在半诚实模型和两方设置下此类非线性函数的实现,目前该领域的最先进水平是 SIRNN。与以前的工作不同,我们利用这些函数的内在特征以及有价值的微小技巧提出了改进的实现。首先,我们提出了一种新颖高效的指数函数协议,采用分治策略,大部分计算在本地执行。指数协议广泛用于泊松回归等机器学习任务,也是 sigmoid 和 tanh 函数的关键组成部分。接下来,我们利用 sigmoid 和 Tanh 的对称性,微调输入以减少 2PC 构建块,这有助于节省开销并提高性能。因此,我们用更少的基础构建块实现了这些函数。综合评估表明,我们的协议实现了最先进的精度,同时将指数函数(仅负输入)、sigmoid 和 Tanh 函数的运行时间分别减少了约 57%、44% 和 42%。
引用
@article{arxiv.2403.00239,
title = {OPAF: Optimized Secure Two-Party Computation Protocols for Nonlinear Activation Functions in Recurrent Neural Network},
author = {Qian Feng and Zhihua Xia and Zhifeng Xu and Jiasi Weng and Jian Weng},
journal= {arXiv preprint arXiv:2403.00239},
year = {2024}
}