Graphcore IPU 内的机密机器学习
密码学与安全
2022-05-23 v2 人工智能
硬件体系结构
摘要
我们提出 IPU Trusted Extensions (ITX)，一组实验性硬件扩展，用于在 Graphcore 的 AI 加速器上实现可信执行环境。ITX 能够以较低的性能开销执行具有强机密性与完整性保障的 AI 工作负载。ITX 将工作负载与不可信主机隔离，并确保其数据与模型除在 IPU 内部外始终加密。ITX 包含一个提供证明能力并编排可信执行的硬件信任根，以及用于以 PCIe 带宽对代码与数据进行认证加密的片上可编程密码引擎。我们还以编译器和运行时扩展的形式提供了 ITX 的软件，支持无需基于 CPU 的 TEE 的多方训练。ITX 的实验性支持已包含在采用台积电 7nm 技术节点流片的 Graphcore GC200 IPU 中。在开发板上使用标准 DNN 训练工作负载的评估表明，ITX 增加的性能开销小于 5%，并且相比依赖 AMD SEV-SNP 的基于 CPU 的机密计算系统可提供高达 17 倍的性能提升。
引用
@article{arxiv.2205.09005,
title = {Confidential Machine Learning within Graphcore IPUs},
author = {Kapil Vaswani and Stavros Volos and Cédric Fournet and Antonio Nino Diaz and Ken Gordon and Balaji Vembu and Sam Webster and David Chisnall and Saurabh Kulkarni and Graham Cunningham and Richard Osborne and Dan Wilkinson},
journal= {arXiv preprint arXiv:2205.09005},
year = {2022}
}