对话AI中用户隐私伤害与风险：提出一个框架
人机交互
2024-02-16 v1 计算机与社会
摘要
本研究提出了一个独特框架，将Solove（2006）的分类法应用于解决与文本式AI聊天机器人交互时隐私关注的问题。随着聊天机器人普及的增长，用户隐私问题日益突出。虽然现有文献强调会妥协隐私的设计元素，但缺乏综合性的框架。通过对13名参与者与两款AI聊天机器人进行半结构化访谈，本研究识别出文本交互中9项隐私伤害和9项隐私风险。采用 grounded theory 方法进行访谈和聊天记录分析，该框架在各交互阶段审议隐私影响。旨在为开发人员、政策制定者和研究者提供一种负责任且安全的对话式AI实施工具，弥补现有针对文本式AI聊天机器人隐私问题的空白。
引用
@article{arxiv.2402.09716,
title = {User Privacy Harms and Risks in Conversational AI: A Proposed Framework},
author = {Ece Gumusel and Kyrie Zhixuan Zhou and Madelyn Rose Sanfilippo},
journal= {arXiv preprint arXiv:2402.09716},
year = {2024}
}