FFConv:基于低秩分解的加密数据上快速卷积神经网络推理
密码学与安全
2022-06-23 v2 人工智能
摘要
同态加密(HE)允许在加密数据(密文)上直接计算而无需先解密,从而能在云端为隐私保护应用提供安全的卷积神经网络(CNN)推理,但速度极慢。为降低推理延迟,一种方法是将多条消息打包进单个密文,以减少密文数量并支持密文间同态乘加(HMA)运算的大规模并行。尽管 HE-CNN 推理更快,主流打包方案 Dense Packing(DensePack)和 Convolution Packing(ConvPack)引入了昂贵的旋转开销,延长了更深更宽 CNN 架构的 HE-CNN 推理延迟。本文提出一种专用于高效密文打包的低秩分解方法 FFConv,以同时减少旋转开销和 HMA 运算。FFConv 用低秩分解卷积近似 d x d 卷积层:先以一个通道数更少的 d x d 低秩卷积,再接 1 x 1 卷积恢复通道数。d x d 低秩卷积配合 DensePack 显著减少旋转操作,而 1 x 1 卷积配合 ConvPack 的旋转开销近乎为零。据我们所知,FFConv 是首个能在不向 HE-CNN 推理流水线引入额外特殊模块的前提下,同时降低 DensePack 与 ConvPack 所产生旋转开销的工作。相较已有工作 LoLa 和 Falcon,我们的方法在 MNIST 和 CIFAR-10 上以可比精度将推理延迟分别最多降低 88% 和 21%。
引用
@article{arxiv.2102.03494,
title = {FFConv: Fast Factorized Convolutional Neural Network Inference on Encrypted Data},
author = {Yuxiao Lu and Jie Lin and Chao Jin and Zhe Wang and Min Wu and Khin Mi Mi Aung and Xiaoli Li},
journal= {arXiv preprint arXiv:2102.03494},
year = {2022}
}
备注
12 pages, 6 figures