APINT：一种基于混淆电路加速 Transformer 隐私保护推理的全栈框架
硬件体系结构
2025-02-25 v1 密码学与安全
摘要
随着 Transformer 隐私保护推理重要性的日益增加，一种结合混淆电路与同态加密的混合协议正成为其实现的新兴方案。尽管该协议因能保持精度而受到青睐，但它存在延迟过高的严重缺陷。为解决这一问题，现有协议主要侧重于降低 HE 延迟，从而使 GC 成为新的延迟瓶颈。此外，以往的研究仅关注单个计算层（如协议或硬件加速器），缺乏系统级的综合解决方案。本文提出 APINT，这是一个全栈框架，旨在通过软硬件双重方案解决 GC 的延迟问题，从而降低 PiT 的整体延迟。APINT 采用了一种新颖的协议，将可能的 GC 工作负载重新分配给替代方法（即 HE 或标准矩阵运算），从而大幅减少 GC 工作负载。它还提出了对 GC 友好的电路生成方法，最大程度地减少了 AND 门的数量，而 AND 门是 GC 中昂贵的算子。此外，APINT 提出了一种创新的网表调度方法，结合粗粒度操作映射与细粒度调度，以实现最大数据复用和最小依赖。最后，APINT 的硬件加速器结合其编译器推测，有效解决了内存停顿问题。综上所述，APINT 实现了显著的端到端延迟降低，在 CPU 平台上在线性能比现有协议快 12.2 倍，离线性能快 2.2 倍。同时，与最先进的 GC 加速器相比，APINT 加速器在执行 PiT 时不仅将延迟降低了 3.3 倍，还节省了 4.6 倍的能耗。
引用
@article{arxiv.2502.16877,
title = {APINT: A Full-Stack Framework for Acceleration of Privacy-Preserving Inference of Transformers based on Garbled Circuits},
author = {Hyunjun Cho and Jaeho Jeon and Jaehoon Heo and Joo-Young Kim},
journal= {arXiv preprint arXiv:2502.16877},
year = {2025}
}
备注
Accepted to the 2024 ACM/IEEE International Conference on Computer-Aided Design (ICCAD)