解码用户对AI健康聊天机器人的关注：应用评论中的安全与隐私探索
密码学与安全
2025-02-04 v1 新兴技术
人机交互
摘要
人工智能驱动的健康聊天机器人应用越来越多地用于个性化医疗服务，但它们对用户数据安全和隐私构成了重大挑战。本研究评估了自动化方法（特别是BART和Gemini GenAI）在识别这些应用用户评论中安全隐私相关（SPR）关注点的有效性，并将其性能与人工定性分析进行了基准比较。我们的结果表明，虽然Gemini在SPR分类中的性能与人工标注相当，但两种自动化方法都有局限性，包括对无关问题的错误分类。定性分析揭示了关键的用户关注点，如数据收集实践、数据滥用以及透明度和同意机制不足。本研究增强了对用户信任、隐私与新兴移动AI健康聊天机器人技术之间关系的理解，为改进AI驱动健康聊天机器人的安全和隐私实践提供了可操作的见解。尽管是探索性的，我们的发现强调了严格审计和透明沟通策略的必要性，为应用开发者和供应商解决用户安全和隐私问题提供了有价值的指导。
引用
@article{arxiv.2502.00067,
title = {Decoding User Concerns in AI Health Chatbots: An Exploration of Security and Privacy in App Reviews},
author = {Muhammad Hassan and Abdullah Ghani and Muhammad Fareed Zaffar and Masooda Bashir},
journal= {arXiv preprint arXiv:2502.00067},
year = {2025}
}