$\Lambda$-Split：一种面向云驱动生成式AI的隐私保护分割计算框架

随着生成式人工智能（AI）服务的蓬勃扩张，这些技术固有的计算需求常常需要云驱动的计算卸载，尤其是对资源受限的移动设备而言。这些服务通常采用提示词来引导生成过程，而提示词及生成内容（如文本与图像）可能携带隐私敏感或机密信息，从而抬高安全与隐私风险。为缓解此类担忧，我们引入$\Lambda$-Split，一种分割计算框架，用于在促进计算卸载的同时防范窃听与未授权访问等数据隐私风险。在$\Lambda$-Split中，生成模型（通常为深度神经网络（DNN））被划分为三个子模型并分布于用户本地设备与云服务器：输入侧与输出侧子模型分配至本地，而中间计算密集型子模型驻留于云服务器。该架构确保仅传输隐藏层输出，从而防止隐私敏感的原始输入与输出数据对外传输。鉴于DNN的黑盒特性，恶意窃听者从截获的隐藏层输出估算原始输入或输出面临重大挑战。此外，$\Lambda$-Split与传统基于加密的安全机制正交，在联合部署时提供增强安全性。我们使用Llama 2与Stable Diffusion XL（分别为Meta与Stability AI开发的代表性大语言与扩散模型）实证验证了$\Lambda$-Split框架的有效性。我们的$\Lambda$-Split实现公开于https://github.com/nishio-laboratory/lambda_split。