PrivQuant：面向通信高效私有推理的量化网络/协议联合优化

基于安全两方计算（2PC）的私有深度神经网络（DNN）推理能够为服务器和客户端提供安全的隐私保护。然而，现有的安全2PC框架因通信量巨大导致推理延迟高。随着线性和非线性DNN层的通信量随权重和激活位宽的减小而降低，本文提出PrivQuant—a一个联合优化2PC基于量化推理协议和网络量化算法的框架，实现通信高效的私有推理。PrivQuant针对通信密集型量化运算符提出了面向DNN架构的2PC协议优化，并对运算符进行图级融合以减少通信。此外，PrivQuant还开发了通信感知的混合精度量化算法，在保持高精度的同时提高推理效率。通过网络/协议联合优化，PrivQuant能够超越现有的2PC框架。通过大量实验，我们展示PrivQuant在通信上分别比SiRNN、COINN和CoPriv降低了$11\times, 2.5\times \mathrm{and}~ 2.8\times$，分别导致$8.7\times, 1.8\times ~ \mathrm{and}~ 2.4\times$的延迟降低。