DCT-CryptoNets：频域下的私有推理扩展
密码学与安全
2025-01-24 v2 计算机视觉与模式识别
机器学习
摘要
全同态加密(FHE)与机器学习的融合为对敏感数据的私有推理提供了前所未有的机会。FHE使直接在加密数据上进行计算成为可能，从而保护整个机器学习管道，包括数据和模型的保密性。然而，现有的FHE实现用于深度神经网络面临计算成本高、延迟大、难以扩展等重大挑战，限制了其实际部署。本文引入DCT-CryptoNets，一种 novel approach 直接在频域中运行，以减少在私有推理期间对计算密集型非线性激活和同态引导操作的负担。它利用离散余弦变换(DCT)，该变换通常用于JPEG编码，天然适用于图像通常以此编码格式存储和传输的远程计算服务。DCT-CryptoNets 在基准图像分类任务上实现了最高可达5.3倍的显著延迟降低。值得注意的是，在96线程计算资源上，ImageNet数据集的推理时间从12.5小时缩短至2.5小时。此外，通过学习感知突出的低频信息，DCT-CryptoNets相对于基于RGB的网络在加密预测可靠性方面表现更好，因为减少了误差累积的同态引导操作。DCT-CryptoNets还显示出对RGB网络的优越可扩展性，通过随图像大小的增加进一步降低计算成本。该研究表明，这一方法为在实际应用中看到的高分辨率图像上实现高效实用的深度学习模型私有推理开辟了一条有前景的道路。
引用
@article{arxiv.2408.15231,
title = {DCT-CryptoNets: Scaling Private Inference in the Frequency Domain},
author = {Arjun Roy and Kaushik Roy},
journal= {arXiv preprint arXiv:2408.15231},
year = {2025}
}
备注
ICLR 2025; 10 pages content, 5 pages appendix, 4 figures, 9 tables; Code @ https://github.com/ar-roy/dct-cryptonets