EmojiPrompt：面向基于云端 LLM 隐私保护通信的生成式提示混淆
计算与语言
2025-03-24 v3 人工智能
密码学与安全
信息检索
机器学习
摘要
诸如 ChatGPT 等基于云端的大型语言模型（LLM）已日益成为日常运营不可或缺的一部分。然而，它们也引发了隐私担忧：首先，大量研究强调了越狱基于云端的 LLM 对用户隐私造成的风险；其次，LLM 服务提供商可以访问所有用户数据，这阻碍了个人放心地使用此类服务。为了解决这些担忧，我们提出了一种简单而有效的范式 EmojiPrompt，以保护用户隐私。其核心在于，EmojiPrompt 执行生成式转换，在将提示提交给基于云端的 LLM 之前，使用语言和非语言元素混淆提示中的私有数据。我们在来自不同领域的 8 个数据集上评估了 EmojiPrompt 的性能。我们还提出了模拟推理攻击，以评估 EmojiPrompt 保护用户隐私的能力。结果表明，EmojiPrompt 有效地混淆了用户私有数据，同时与未混淆版本相比，在很大程度上保持甚至提升了性能。此外，EmojiPrompt 的原子级混淆使其能够专门与基于云端的 LLM 配合使用。源代码请参见：https://github.com/agiresearch/EmojiCrypt。
引用
@article{arxiv.2402.05868,
title = {EmojiPrompt: Generative Prompt Obfuscation for Privacy-Preserving Communication with Cloud-based LLMs},
author = {Sam Lin and Wenyue Hua and Zhenting Wang and Mingyu Jin and Lizhou Fan and Yongfeng Zhang},
journal= {arXiv preprint arXiv:2402.05868},
year = {2025}
}
备注
Accepted to the 2025 Annual Conference of the Nations of the Americas Chapter of the Association for Computational Linguistics (NAACL 2025)