“这是个公平的游戏”，还是并非如此？考察用户在使用基于 LLM 的对话代理时如何应对披露风险与收益
人机交互
2024-04-03 v2 人工智能
密码学与安全
摘要
基于大语言模型（LLM）的对话代理（CAs）的广泛使用，尤其是在高风险领域，引发了诸多隐私担忧。构建尊重用户隐私的符合伦理的基于 LLM 的 CAs 需要深入理解最令用户担忧的隐私风险。然而，现有研究主要以模型为中心，未能提供关于用户视角的洞察。为弥补这一差距，我们分析了真实世界 ChatGPT 对话中的敏感披露，并对 19 名基于 LLM 的 CA 用户进行了半结构化访谈。我们发现，用户在使用基于 LLM 的 CAs 时不断面临隐私、效用与便利性之间的权衡。然而，用户的错误心智模型与系统设计中的黑暗模式限制了他们对隐私风险的觉察与理解。此外，类人交互促发了更多敏感披露，这使用户应对权衡的能力复杂化。我们讨论了实用的设计准则以及保护基于 LLM 的 CA 用户隐私所需的范式转变。
引用
@article{arxiv.2309.11653,
title = {"It's a Fair Game", or Is It? Examining How Users Navigate Disclosure Risks and Benefits When Using LLM-Based Conversational Agents},
author = {Zhiping Zhang and Michelle Jia and Hao-Ping Lee and Bingsheng Yao and Sauvik Das and Ada Lerner and Dakuo Wang and Tianshi Li},
journal= {arXiv preprint arXiv:2309.11653},
year = {2024}
}
备注
26 pages, 5 figures