基于主题建模与情感分析探讨心理健康应用用户评论中的伦理问题

AI 驱动的心理健康移动应用迅速增长，引发对其伦理考量和用户信任度的担忧。本研究提出一种基于自然语言处理（NLP）的框架，用于从 Google Play 商店和 Apple App Store 用户生成的评论中评估伦理方面。数据收集与清理后，应用主题建模识别伦理语境中的潜在主题，基于主题词，然后映射到不同伦理框架中描述的既有伦理原则；此外，采用基于转换器的零样本分类模型从评论中发现新的和新兴伦理问题。随后使用情感分析捕捉用户对每个伦理方面的情感。所得结果表明，既有的伦理考量对现代 AI 技术而言不足够，缺乏对新兴伦理挑战的关注，显示这些应用要么维护关键道德价值，要么忽视其中的要素。该工作为开发持续的评估系统贡献了力量，以提升 AI 驱动的心理健康聊天机器人的公平性、透明度和可信度。