SecONNds：ImageNet 上的安全外包神经网络推理

外包神经网络推理的广泛采用带来了显著的隐私挑战，因为敏感用户数据在不受信任的远程服务器上进行处理。安全推理提供了一种保护隐私的解决方案，但现有框架存在较高的计算开销和通信成本，使其难以在实际中部署。我们提出 SecONNds，一个针对大规模 ImageNet 规模卷积神经网络优化的非侵入式安全推理框架。SecONNds 集成了一个全新的全布尔 Goldreich-Micali-Wigderson (GMW) 协议用于安全比较——解决 Yao 百万富翁问题——使用由静默随机不经意传输生成的预处理 Beaver 三元组。我们的新协议在非线性操作中相比最先进方案实现了 17 倍的在线加速，同时降低了通信开销。为进一步提升性能，SecONNds 采用数论变换 (NTT) 预处理，并利用 GPU 加速同态加密操作，使线性操作在 CPU 上获得 1.6 倍加速、在 GPU 上获得 2.2 倍加速。我们还提出了 SecONNds-P，一个位精确变体，确保安全计算中可验证的全精度结果，与明文计算结果一致。在 37 位量化 SqueezeNet 模型上的评估显示，SecONNds 实现了 GPU 上 2.8 秒、CPU 上 3.6 秒的端到端推理时间，总通信量仅为 420 MiB。SecONNds 的高效率和降低的计算负载使其非常适合在资源受限环境中部署隐私敏感应用。SecONNds 是开源的，可从以下地址访问：https://github.com/shashankballa/SecONNds。