比较聊天机器人如何引用以往会话中的用户话语：一项关于用户隐私担忧与感知的调查
人机交互
2026-02-02 v1 计算与语言
摘要
聊天机器人能够记忆并引用先前的对话，但这会增强用户参与度还是侵犯隐私？为探究这一权衡，我们研究了聊天机器人引用与用户先前对话的格式及其对用户感知和隐私担忧的影响。在一项为期三周的纵向被试间研究中，169 名参与者向聊天机器人谈论其牙线使用习惯，该机器人分别：(1-None) 不明确引用先前的用户话语，(2-Verbatim) 逐字引用先前话语，或 (3-Paraphrase) 使用释义引用先前话语。参与者认为 Verbatim 和 Paraphrase 聊天机器人更智能且更具参与度。然而，Verbatim 聊天机器人也引发了参与者的隐私担忧。为深入了解人们偏好某些条件或有隐私担忧的原因，我们对 15 名参与者进行了半结构化访谈。我们讨论了研究结果的含义，可帮助设计者选择合适的格式来引用先前的用户话语，并为纵向对话脚本设计提供参考。
引用
@article{arxiv.2308.04879,
title = {Comparing How a Chatbot References User Utterances from Previous Chatting Sessions: An Investigation of Users' Privacy Concerns and Perceptions},
author = {Samuel Rhys Cox and Yi-Chieh Lee and Wei Tsang Ooi},
journal= {arXiv preprint arXiv:2308.04879},
year = {2026}
}
备注
10 pages, 3 figures, to be published in Proceedings of the 11th International Conference on Human-Agent Interaction (ACM HAI'23)