NeuJeans:联合优化卷积与全同态加密自举的私有神经网络推理
密码学与安全
2025-01-14 v3 机器学习
摘要
全同态加密(FHE)是一种有前景的密码学原语,用于实现私有神经网络推理(PI)服务,它允许客户端将推理任务完全卸载到云服务器,同时使服务器无法获知客户端数据。本文提出 NeuJeans,一种基于 FHE 的深度卷积神经网络(CNNs)私有推理解决方案。NeuJeans 解决了 CNN 的 FHE 评估计算成本巨大的关键问题。我们引入了一种称为槽内系数(CinS)编码的新颖编码方法,它能在一次同态乘法中实现多个卷积,而无需昂贵的槽置换。我们进一步观察到,CinS 编码是通过对传统槽编码下的密文执行离散傅里叶变换(DFT)的前几个步骤获得的。这一特性使我们能够节省 CinS 与槽编码之间的转换,因为密文的自举始于 DFT。利用这一点,我们为各种二维卷积(conv2d)操作设计了优化的执行流程,并将其应用于端到端的 CNN 实现。与最先进的基于 FHE 的 PI 工作相比,NeuJeans 将 conv2d-激活序列的性能加速了高达 5.68 倍,并在短短几秒内完成了 ImageNet 规模的 CNN 的 PI。
引用
@article{arxiv.2312.04356,
title = {NeuJeans: Private Neural Network Inference with Joint Optimization of Convolution and FHE Bootstrapping},
author = {Jae Hyung Ju and Jaiyoung Park and Jongmin Kim and Minsik Kang and Donghwan Kim and Jung Hee Cheon and Jung Ho Ahn},
journal= {arXiv preprint arXiv:2312.04356},
year = {2025}
}
备注
15 pages, 6 figures, published at ACM 2024