Ironman：面向隐私保护 AI 的近内存处理下的遗传传输加速器
硬件体系结构
2025-10-07 v3
摘要
随着机器学习 (ML) 的广泛应用，隐私问题随之出现，因为用户数据可能包含敏感信息。基于密码学原语的隐私保护机器学习 (PPML) 作为一种承诺形式隐私保证的解决方案日益流行，其中 ML 模型直接在加密数据上计算。然而，PPML 框架严重依赖遗传传输 (OT) 原语来计算非线性函数。OT主要涉及单点相关遗传传输 (SPCOT) 和学习伪噪声 (LPN) 操作的计算。由于 OT 仍大量在通用 CPU 上计算，成为现代 PPML 框架的延迟瓶颈。本文提出一种新型 OT 加速器，称为 Ironman，以显著提高 OT 的效率以及整个 PPML 框架。我们观察到 SPCOT 计算受限于计算，因此提出一种面向硬件的 SPCOT 算法，并配以定制加速器以提高 SPCOT 计算吞吐量。相反，LPN 由于不规则的内存访问模式，受限于内存带宽。因此，我们进一步利用配备内存侧缓存和索引排序的近内存处理 (NMP) 架构，以提高有效内存带宽。通过大量实验，我们展示 Ironman 在不同 NMP 配置下相对于全线程 CPU 实现实现了 39.2-237.4 倍的 OT 吞吐提升。对于不同的 PPML 框架，Ironman 在 CNN 和 Transformer 模型上实现了端到端延迟降低 2.1-3.4 倍。
引用
@article{arxiv.2507.16391,
title = {Ironman: Accelerating Oblivious Transfer Extension for Privacy-Preserving AI with Near-Memory Processing},
author = {Chenqi Lin and Kang Yang and Tianshi Xu and Ling Liang and Yufei Wang and Zhaohui Chen and Runsheng Wang and Mingyu Gao and Meng Li},
journal= {arXiv preprint arXiv:2507.16391},
year = {2025}
}