火盗也是守门人：平衡提示中的可用性与隐私
密码学与安全
2024-06-21 v1 人工智能
计算与语言
摘要
在线聊天机器人的快速采用代表了人工智能的重大进步。然而，这种便利性带来了显著的隐私问题，因为提示可能意外包含暴露给大型语言模型 (LLM) 的敏感信息。受高计算成本、受限任务可用性和过多系统修改限制，之前基于本地部署、嵌入扰动和同态加密的工作方法不适用于基于提示的在线 LLM 应用。为此，本文引入了 Prompt Privacy Sanitizer (即 ProSan)，一个面向端到端的提示隐私保护框架，可生成带有已移除上下文隐私的匿名提示，同时保持任务可用性和人类可读性。它还能无缝集成到在线 LLM 服务管道中。为实现高可用性和动态匿名性，ProSan 根据词语的重要性和提示的隐私泄露风险灵活调整其保护目标和强度。此外，ProSan 能够适应多样化的计算资源条件，确保即使在计算资源有限的移动设备上也能实现隐私保护。我们的实验表明，ProSan 在包括问答、文本摘要和代码生成在内的各种任务中有效移除私有信息，仅对任务性能造成最小程度的影响。
引用
@article{arxiv.2406.14318,
title = {The Fire Thief Is Also the Keeper: Balancing Usability and Privacy in Prompts},
author = {Zhili Shen and Zihang Xi and Ying He and Wei Tong and Jingyu Hua and Sheng Zhong},
journal= {arXiv preprint arXiv:2406.14318},
year = {2024}
}