面向隐私保护的 LLM 推理：Covariant Obfuscation 方法
密码学与安全
2026-03-31 v2 人工智能
摘要
大型语言模型 (LLM) 的快速发展推动了基于云端的 LLM 推理服务的广泛采用，同时也带来了通过远程推理传输和处理私人数据的显著隐私风险。对于隐私保护 LLM 推理技术要在工业场景中实际应用，必须同时满足三个核心要求：(1) 准确率和效率损失应最小化，以缓解服务体验的降级。(2) 推理过程可在大规模由异构旧 xPU 组成的集群上运行。(3) 应与现有 LLM 基础设施兼容，以复用其工程优化。据我们了解，现有任何隐私保护 LLM 推理方法都无法满足上述所有约束，同时又能提供有意义的隐私保障。在本文中，我们提出 AloePri，这是首个用于工业应用的隐私保护 LLM 推理方法。AloePri 通过 covarian 隐写保护输入和输出数据，联合转换数据和模型参数以实现更好的准确率和隐私。我们仔细设计用于每个模型组件的转换，以确保推理准确率和数据隐私，同时保持与 Language Model as a Service 现有基础设施的完全兼容。AloePri 已集成到工业系统中进行主流 LLM 的评估。针对 Deepseek-V3.1-Terminus 模型 (6710 亿参数) 的评估表明，AloePri 导致准确率损失为 0.0%~3.5%，并表现出与明文推理等效的效率。同时，AloePri 成功抵抗了最新的攻击，恢复的 token 少于 5%。据我们了解，AloePri 是首个在真实世界系统中展现大规模模型实用性的方法。
引用
@article{arxiv.2603.01499,
title = {Towards Privacy-Preserving LLM Inference via Covariant Obfuscation (Technical Report)},
author = {Yu Lin and Qizhi Zhang and Wenqiang Ruan and Daode Zhang and Jue Hong and Ye Wu and Hanning Xia and Yunlong Mao and Sheng Zhong},
journal= {arXiv preprint arXiv:2603.01499},
year = {2026}
}