PriViT：用于快速隐私推理的视觉Transformer
密码学与安全
2023-10-10 v1 机器学习
摘要
Vision Transformer (ViT) 架构已成为计算机视觉应用最先进深度模型的首选骨干。然而，由于大量的非多项式运算（自注意力、前馈整流器、层归一化），ViT不适用于使用安全多方计算（MPC）协议的隐私推理。我们提出PriViT，一种基于梯度的算法，可在保持预测精度的同时选择性地“泰勒化”ViT中的非线性。我们的算法概念简单、易于实现，并且在设计MPC友好的Transformer架构方面，就实现延迟-精度帕累托前沿而言，取得了优于现有方法的性能。我们通过在多个标准图像分类任务上的实验证实了这些改进。公开代码见 https://github.com/NYU-DICE-Lab/privit。
引用
@article{arxiv.2310.04604,
title = {PriViT: Vision Transformers for Fast Private Inference},
author = {Naren Dhyani and Jianqiao Mo and Minsu Cho and Ameya Joshi and Siddharth Garg and Brandon Reagen and Chinmay Hegde},
journal= {arXiv preprint arXiv:2310.04604},
year = {2023}
}
备注
18 pages, 14 figures