面向多方计算机器学习的 PyTorch 自动调优编译器 CrypTorch
密码学与安全
2025-11-26 v1 人工智能
编程语言
摘要
机器学习 (ML) 涉及私有数据和专有模型参数。基于多方计算 (MPC) 的 ML 允许多个参与方在不共享私有数据或模型参数的情况下协同运行 ML 工作负载。由于 MPC 无法原生运行诸如 Softmax 或 GELU 等 ML 操作，现有框架采用不同逼近方法。我们的研究表明，在经过良好优化的框架上，这些逼近方法常常成为主要瓶颈。流行的逼近方法往往准确性不足或速度不必要地慢，且在现有框架中难以识别和修复。为解决此问题，我们提出了 MPC 基于 ML 的编译器 CrypTorch。CrypTorch 将这些逼近方法与其余 MPC 运行时分离，允许通过编程接口轻松添加新的逼近方法，并自动选择以最大化性能和准确性的逼近方法。作为 PyTorch 2 编译器的扩展，CrypTorch 的自动调优 alone 即可在不牺牲准确性的情况下提供 1.20--1.7倍的即时加速，若允许一定准确性下降，则可实现 1.31--1.8倍的加速。结合更好的工程实践和采用最新技术，整个框架相较于流行框架 CrypTen 实现 3.22--8.6倍的端到端加速。
引用
@article{arxiv.2511.19711,
title = {CrypTorch: PyTorch-based Auto-tuning Compiler for Machine Learning with Multi-party Computation},
author = {Jinyu Liu and Gang Tan and Kiwan Maeng},
journal= {arXiv preprint arXiv:2511.19711},
year = {2025}
}
备注
28 pages, 17 figures. Submitted to PLDI 2026