私有Transformer推理综述
密码学与安全
2024-12-12 v1 人工智能
摘要
Transformer模型彻底改变了AI，实现了内容生成和情感分析等应用。然而，其在机器学习即服务(MLaaS)中的使用引发了重大的隐私问题，因为集中式服务器处理敏感用户数据。私有Transformer推理(PTI)通过使用安全多方计算(MPC)和同态加密(HE)等密码学技术来解决这些问题，实现安全的模型推理而不暴露输入或模型。本文综述了PTI的最新进展，分析了最先进的解决方案、其挑战以及潜在的改进。我们还提出了评估指南，以评估资源效率和隐私保证，旨在弥合高性能推理与数据隐私之间的差距。
引用
@article{arxiv.2412.08145,
title = {A Survey on Private Transformer Inference},
author = {Yang Li and Xinyu Zhou and Yitong Wang and Liangxin Qian and Jun Zhao},
journal= {arXiv preprint arXiv:2412.08145},
year = {2024}
}
备注
The manuscript is still being revised and will be continuously updated in the future