CENTAUR：在隐私、效率与性能三者之间架起桥梁的隐私保护Transformer推理框架
机器学习
2025-06-11 v2 密码学与安全
摘要
随着预训练模型(如Transformer)在云平台上的部署日益增长，对模型参数和推理数据的隐私关注日益加剧。现有的隐私保护Transformer推理(PPTI)框架面临着在隐私、效率和性能之间实现“不可能的三角不等式”：基于安全多方计算(SMPC)的方法确保强隐私，但因计算开销大且性能损失而受到制约；相反，基于置换的方法实现接近明文级别的效率和准确性，但以牺牲隐私为代价，暴露敏感的模型参数和中间结果。用单一方法解决这一问题 presents substantial挑战，这促使我们引入CENTAUR——一个突破性的PPTI框架，通过无缝集成随机置换和SMPC来解决“不可能的三角不等式”。通过为Transformer模型的结构特性设计高效的PPTI算法，CENTAUR实现了隐私、效率和性能之间的前所未有的平衡。我们的实验表明，CENTAUR能够抵抗多样化的数据重建攻击，实现接近明文水平的推理准确率，并将推理速度提升5.0-30.4倍，为安全且高效的人工智能部署开辟了新可能。
关键词
引用
@article{arxiv.2412.10652,
title = {CENTAUR: Bridging the Impossible Trinity of Privacy, Efficiency, and Performance in Privacy-Preserving Transformer Inference},
author = {Jinglong Luo and Guanzhong Chen and Yehong Zhang and Shiyu Liu and Hui Wang and Yue Yu and Xun Zhou and Yuan Qi and Zenglin Xu},
journal= {arXiv preprint arXiv:2412.10652},
year = {2025}
}
备注
ACL 2025