Dash：基于算术混淆电路加速分布式私有卷积神经网络推理
密码学与安全
2024-10-16 v2 机器学习
摘要
机器学习方案的采用正在社会各领域快速增长。随着模型规模变大，机器学习模型的训练与推理日益被外包，例如外包给云服务提供商。这意味着潜在敏感数据在不受信任的平台上被处理，带来固有的数据安全与隐私风险。本文研究如何保护分布式机器学习系统，重点关注深度卷积神经网络。最常见且性能最佳的混合MPC方法基于HE、秘密共享和混淆电路。它们通常存在巨大的性能开销、严重的精度损失以及随神经网络深度线性增长的通信开销。为改进这些问题，我们提出Dash，一种针对恶意攻击者安全的快速分布式私有卷积神经网络推理方案。基于算术混淆组件[BMR16]与fancy-garbling[BCM+19]，Dash完全构建于算术混淆电路之上。我们引入LabelTensors，使我们能够利用现代GPU的大规模并行性。结合最先进的混淆优化，Dash相较先前混淆方法最高实现约100倍的加速。此外，我们向算术混淆电路引入一种基于中国剩余定理表示的剩余类上的高效缩放操作，使我们能够混淆更大的网络并达到比先前方法高得多的精度。最后，无论神经网络深度如何，Dash在每步推理中仅需一轮通信，且在线通信量非常小且为常数。
引用
@article{arxiv.2302.06361,
title = {Dash: Accelerating Distributed Private Convolutional Neural Network Inference with Arithmetic Garbled Circuits},
author = {Jonas Sander and Sebastian Berndt and Ida Bruhns and Thomas Eisenbarth},
journal= {arXiv preprint arXiv:2302.06361},
year = {2024}
}