Hide and Seek (HaS)：一种轻量级提示隐私保护框架
密码学与安全
2023-09-07 v1 人工智能
摘要
众多公司已开始提供基于大语言模型（LLM）的服务，如ChatGPT，这不可避免地引发了隐私担忧，因为用户的提示会暴露给模型提供方。先前关于使用多方计算（MPC）进行安全推理的研究因其耗时且通信密集的特性，被证明对LLM应用不切实际。尽管轻量级匿名化技术可通过替换或掩码保护提示中的私人信息，但它们无法恢复LLM生成结果中被替换的敏感数据。在本文中，我们通过训练一个小型本地模型以极小计算开销对LLM返回结果进行去匿名化，拓展了匿名化技术的应用情景。我们引入了HaS框架，其中“H(ide)”与“S(eek)”分别代表其两个核心过程：隐藏私有实体以匿名化，以及寻回私有实体以去匿名化。为定量评估HaS的隐私保护性能，我们提出了黑盒与白盒两种对抗模型。此外，我们开展实验以评估HaS在翻译与分类任务中的可用性。实验结果表明，HaS框架在隐私保护与应用效用之间实现了最优平衡。
引用
@article{arxiv.2309.03057,
title = {Hide and Seek (HaS): A Lightweight Framework for Prompt Privacy Protection},
author = {Yu Chen and Tingxin Li and Huiming Liu and Yang Yu},
journal= {arXiv preprint arXiv:2309.03057},
year = {2023}
}