面向对话 AI 服务的语义感知 LLM 智能体以提升隐私保护

随着对话 AI 系统的日益增长的使用，尤其是在大语言模型（LLM）中，用户分享的敏感个人数据导致隐私泄露日益成为关切。与这些模型交互的对话可能包含个人可识别信息（PII），若泄露可能导致安全漏洞或身份盗窃。为应对这一挑战，我们提出了 Local Optimizations for Pseudonymization with Semantic Integrity Directed Entity Detection（LOPSIDED）框架，一个语义感知的隐私智能体，旨在在使用远程 LLM 时保护敏感 PII 数据。不同于以往方法会降低响应质量的做法，我们的方法会动态地以语义一致的伪姓名替换用户提示中的敏感 PII 实体，保留对话的语境完整性。模型生成响应后，伪姓名将自动进行反伪姓名化，确保用户接收到准确且保护隐私的输出。我们使用来自 ShareGPT 的真实世界对话进行评估，该数据进一步增强和标注，以评估命名实体是否与模型响应的上下文相关。我们的结果表明，LOPSIDED 比基线技术在语义实用性错误上降低了约 5 倍，同时提升了隐私保护。