我可以信任这个聊天机器人吗？评估 AI 医疗聊天应用中的用户隐私
人机交互
2025-09-19 v1 人工智能
计算机与社会
新兴技术
摘要
随着对话式人工智能 (AI) 越来越融入日常生活，AI 驱动的聊天机器人移动应用正在跨行业普遍采用，尤其在医疗领域。尽管这些聊天机器人提供了便捷且 24 小时支持，但其对敏感健康数据的收集与处理却带来了关键隐私问题。虽然已有研究探讨过聊天机器人的安全问题，但针对 AI 医疗聊天机器人的隐私问题却关注不足。本研究评估了在美国 App Store 和 Google Play 上下载量较大的 12 个 AI 医疗聊天应用的隐私实践。我们采用三步评估方法，分析：(1) 注册时的隐私设置；(2) 应用内隐私控制；(3) 隐私政策内容。分析结果发现用户数据保护存在显著缺口。我们的发现表明，所调查的半数应用在注册时未提供隐私政策，仅两款应用提供了禁用数据共享的选项。大多数应用的隐私政策未能涵盖数据保护措施。此外，用户对个人数据的控制权极低。该研究为信息科学研究者、开发者和政策制定者提供了关键见解，以改进 AI 医疗聊天应用中的隐私保护。
关键词
引用
@article{arxiv.2509.14581,
title = {Can I Trust This Chatbot? Assessing User Privacy in AI-Healthcare Chatbot Applications},
author = {Ramazan Yener and Guan-Hung Chen and Ece Gumusel and Masooda Bashir},
journal= {arXiv preprint arXiv:2509.14581},
year = {2025}
}
备注
13 pages. To be published in ASIS&T 2025 Conference