ARIANN:基于函数秘密共享的低交互隐私保护深度学习框架
机器学习
2021-10-29 v4 密码学与安全
机器学习
摘要
我们提出 AriaNN,一种用于敏感数据上私有神经网络训练与推理的低交互隐私保护框架。我们的半诚实两方计算协议(含可信 dealer)利用函数秘密共享——一种近期轻量级密码协议,使我们能够实现高效的在线阶段。我们为神经网络的构建模块(如 ReLU、MaxPool 和 BatchNorm)设计了优化原语。例如,我们在在线阶段以输入大小的单条消息完成 ReLU 操作的私有比较,且预处理密钥较先前工作缩小近 4 倍。最后,我们提出支持 n 方私有联邦学习的扩展。我们将框架实现为基于 PyTorch 的可扩展系统,利用 CPU 与 GPU 硬件加速密码与机器学习操作。我们在标准神经网络(如 AlexNet、VGG16 或 ResNet18)上评估了远程服务器间私有推理的端到端系统,并在较小网络(如 LeNet)上评估私有训练。我们表明计算而非通信是主要瓶颈,且使用 GPU 配合缩减密钥规模是克服该障碍的有前景方案。
引用
@article{arxiv.2006.04593,
title = {ARIANN: Low-Interaction Privacy-Preserving Deep Learning via Function Secret Sharing},
author = {Théo Ryffel and Pierre Tholoniat and David Pointcheval and Francis Bach},
journal= {arXiv preprint arXiv:2006.04593},
year = {2021}
}
备注
26 pages