“过去的幽灵”：通过主动用户交互识别和解决大语言模型记忆中的隐私泄露
人机交互
2024-10-22 v1
摘要
记忆，包括上下文窗口中的历史输入和检索增强生成的内容，在人类与大语言模型的交互中频繁出现，但用户往往对其存在及相关的隐私风险缺乏认识。为解决此问题，我们提出了MemoAnalyzer，一个用于识别、可视化和管理记忆中私人信息的系统。一项半结构化访谈（N=40）揭示，低隐私意识是主要挑战，而主动隐私控制成为最常见的用户需求。MemoAnalyzer使用基于提示的方法从聚合的历史输入中推断和识别敏感信息，允许用户轻松修改敏感内容。背景色温和透明度被映射到推断置信度和敏感度，以简化隐私调整。一项为期5天的评估（N=36），将MemoAnalyzer与默认GPT设置及手动修改基线进行比较，结果显示MemoAnalyzer显著提高了隐私意识和保护，且不影响交互速度。我们的研究为注重隐私的大语言模型设计做出了贡献，为人类-人工智能交互中的隐私保护提供了见解。
引用
@article{arxiv.2410.14931,
title = {"Ghost of the past": identifying and resolving privacy leakage from LLM's memory through proactive user interaction},
author = {Shuning Zhang and Lyumanshan Ye and Xin Yi and Jingyu Tang and Bo Shui and Haobin Xing and Pengfei Liu and Hewu Li},
journal= {arXiv preprint arXiv:2410.14931},
year = {2024}
}