远程对话系统中保护用户隐私:基于文本净化的隐私保护框架

大语言模型 (LLMs) 因其在众多任务上的卓越表现而受到越来越多的关注。因此,公众将其用作提升生产力的有力工具,而自然语言处理研究者则努力将其用于解决已有或新的研究问题。遗憾的是,个人只能通过 API 访问此类强大 AI,这最终导致原始数据传输至模型提供方,并增加了隐私数据泄露的可能性。当前面向云部署语言模型的隐私保护方法旨在保护预训练数据集中的隐私信息或模型训练阶段的隐私,但它们未能应对新型大规模语言模型远程访问方式所带来的特定挑战。本文引入一项新任务——“对话模型的用户隐私保护”,旨在与聊天机器人对话时防止任何可能的敏感用户信息泄露。我们还提出了该任务的评估方案,涵盖隐私保护、数据可用性及抗模拟攻击的评估指标。此外,我们提出了该任务的首个框架,即基于文本净化的隐私保护。在向远程大模型发送输入前,它根据用户定义的隐私类型,通过若干轮文本净化过滤掉敏感信息。在接收到较大模型的回复后,我们的框架自动恢复隐私,以确保对话顺畅进行,无需隐私过滤器干预。基于真实世界数据集的实验证明了我们的隐私保护方法抵御潜在攻击者窃听的有效性。