Flash：一种在 CPU 上实现高精度低延迟深度 CNN 的混合私有推理协议
密码学与安全
2025-01-20 v2
摘要
本文提出 Flash，一种利用同态加密 (HE) 和安全两方计算 (2PC) 的优化私有推理 (PI) 混合协议，可在 CPU 上将深度 CNN 模型的端到端 PI 延迟降至 1 分钟以内。为此，首先，Flash 提出了一种基于快速槽旋转操作和新颖数据编码方案的低延迟卷积算法，与现有技术相比，性能提升了 4-94 倍。其次，为了最小化标准非线性激活函数 ReLU 引入的通信成本，Flash 用多项式 替换了所有 ReLU，并采用新的训练策略训练深度 CNN 模型。与先前技术相比，训练后的模型在 CIFAR-10/100 和 TinyImageNet 上的推理准确率平均提高了 16%（ResNet-32 最高可达 40%）。最后，Flash 提出了一种高效的基于 2PC 的 评估协议，该协议无需任何离线通信，并将处理激活层的总通信成本降低了 84-196 倍（相较于现有技术）。因此，在 CPU 上实现的 Flash 端到端 PI 延迟对于 CIFAR-100 分类为 0.02 分钟，对于 TinyImageNet 分类为 0.57 分钟，而总数据通信量对于 CIFAR-100 为 0.07GB，对于 TinyImageNet 为 0.22GB。Flash 在延迟方面将现有技术的 PI 提升了 16-45 倍，在通信成本方面提升了 84-196 倍。此外，即使对于 ImageNet，Flash 也能在 CPU 上实现低于 1 分钟的延迟和低于 1GB 的总通信量。
引用
@article{arxiv.2401.16732,
title = {Flash: A Hybrid Private Inference Protocol for Deep CNNs with High Accuracy and Low Latency on CPU},
author = {Hyeri Roh and Jinsu Yeo and Yeongil Ko and Gu-Yeon Wei and David Brooks and Woo-Seok Choi},
journal= {arXiv preprint arXiv:2401.16732},
year = {2025}
}