一种破解基于置换的LLM私有第三方推理方案的攻击
密码学与安全
2025-05-27 v1 机器学习
摘要
近期大型语言模型（LLM）的快速发展导致第三方推理服务的广泛采用，引发了关键隐私关注。现有方法如安全多方计算（SMPC）常依赖密码学方法，但这些方法比标准非加密推理慢数千倍，难以扩展至大型现代LLM。因此，近期研究探索用统计混淆方法取代SMPC中昂贵的加密非线性计算，具体做法是向第三方披露置换后的隐藏状态，并附带强大的逆转难度保证。本文首先引入一种新型重建技术，可在多个最新LLM上几乎完美准确地从隐藏状态恢复原始提示词。随后我们表明，我们的攻击在几乎完美地逆转LLM置换后的隐藏状态方面效果显著，证明了三种最新提出的隐私方案不安全。我们进一步剖析了先前理论上关于置换安全性的‘证明’的缺陷，使我们的攻击得以成功。我们的发现凸显了隐私保护LLM推理中严谨安全性分析的重要性。
引用
@article{arxiv.2505.18332,
title = {An Attack to Break Permutation-Based Private Third-Party Inference Schemes for LLMs},
author = {Rahul Thomas and Louai Zahran and Erica Choi and Akilesh Potti and Micah Goldblum and Arka Pal},
journal= {arXiv preprint arXiv:2505.18332},
year = {2025}
}
备注
To be published in ICML 2025 Main Proceedings as "Hidden No More: Attacking and Defending Private Third-Party LLM Inference"