了解面向 LLM 基于 RAG 记忆的用户隐私感知
人机交互
2025-08-12 v1
摘要
大型语言模型 (LLM) 正越来越多地集成记忆功能，以提供个性化和情境感知的交互方式。然而，关于这些记忆系统的用户理解、实践方式以及期望，尚未得到充分了解。本文通过对 18 名用户进行半结构化访谈进行主题分析，探索用户对 LLM 基于检索增强生成 (RAG) 记忆的心理模型、当前的使用实践、感知到的收益与局限、隐私关注以及未来记忆系统的期望。我们的发现表明，用户对记忆如何运作的心理模型呈现出多样性且常常不完整的情况。虽然用户欣赏个性化和效率提升的潜力，但关于隐私、控制以及被记忆信息的准确性仍存重大顾虑。用户希望能够对记忆的生成、管理、使用和更新进行细粒度控制，包括清晰的机制，以便审查、编辑、删除和分类记忆，以及对如何使用记忆及推断信息的透明见解。我们讨论了在创建更加以用户为中心、透明且可信赖的 LLM 记忆系统方面的设计启示。
引用
@article{arxiv.2508.07664,
title = {Understanding Users' Privacy Perceptions Towards LLM's RAG-based Memory},
author = {Shuning Zhang and Rongjun Ma and Ying Ma and Shixuan Li and Yiqun Xu and Xin Yi and Hewu Li},
journal= {arXiv preprint arXiv:2508.07664},
year = {2025}
}