中文

用户看重与批评什么:对AI驱动移动应用用户反馈的大规模分析

软件工程 2025-06-13 v1 人工智能

摘要

人工智能(AI)驱动的功能已迅速渗透到各个领域的移动应用中,包括生产力、教育、娱乐和创造力。然而,用户如何感知、评估和批评这些AI功能在很大程度上仍未得到探索,这主要是由于用户反馈的庞大数量。在这项工作中,我们提出了首个关于AI驱动移动应用用户反馈的全面、大规模研究,利用了一个包含来自Google Play的292个AI驱动应用(涵盖14个类别)的精选数据集,以及894K条AI特定评论。我们开发并验证了一个多阶段分析流水线,该流水线从人工标注的基准开始,并系统地评估大语言模型(LLM)和提示策略。每个阶段,包括评论分类、方面-情感提取和聚类,都经过准确性和一致性的验证。我们的流水线实现了对用户反馈的可扩展、高精度分析,提取了超过一百万个方面-情感对,聚类成18个正面和15个负面用户主题。我们的分析揭示,用户始终关注一组狭窄的主题:正面评论强调生产力、可靠性和个性化辅助,而负面反馈则突出技术故障(例如,扫描和识别)、定价问题和语言支持的限制。我们的流水线揭示了在同一评论中,用户对某个功能满意而对另一个功能不满的情况。这些细粒度的、共现的情感常常被传统方法忽略,传统方法要么孤立地处理正面和负面反馈,要么依赖于粗粒度分析。为此,我们的方法更忠实地反映了用户使用AI驱动应用的真实体验。基于类别的分析进一步揭示了普遍的满意度驱动因素和特定领域的挫折点。

关键词

引用

@article{arxiv.2506.10785,
  title  = {What Users Value and Critique: Large-Scale Analysis of User Feedback on AI-Powered Mobile Apps},
  author = {Vinaik Chhetri and Krishna Upadhyay and A. B. Siddique and Umar Farooq},
  journal= {arXiv preprint arXiv:2506.10785},
  year   = {2025}
}

备注

12 pages, 6 figures, 5 tables