理解用户在使用聊天机器人时的隐私推理与行为以支持隐私中的有意义自主权

会话代理（Conversational agents, CAs，例如聊天机器人）越来越多地被用于用户会披露敏感信息的场景，这引发了重大的隐私担忧。由于隐私判断高度依赖上下文，支持用户在聊天机器人交互中采取隐私保护行动至关重要。然而，实现有意义的参与需要更深入地了解用户在现实的聊天机器人使用场景中目前如何推理和管理敏感信息。为了调查这一点，我们定性考察了计算机科学专业（本科和硕士）学生在一系列现实的聊天机器人任务中即时披露与保护行为，以及这些行为背后的推理。参与者使用了一个模拟的 ChatGPT 界面，该界面带有和不带有一个隐私通知面板，该面板会拦截消息提交、突出显示潜在的敏感信息，并提供隐私保护操作。该面板支持通过撤回、伪造和泛化进行匿名化，并展示了 ChatGPT 的两个内置隐私控制功能以提高其可发现性。基于交互日志、有声思维和问卷调查，我们分析了该面板如何培养隐私意识、鼓励保护行动，并支持关于保护什么信息以及如何保护信息的上下文特定推理。我们进一步讨论了工具的设计机会，这些工具可在 CA 交互期间为用户提供更大且更有意义的敏感信息保护自主权。