对话式人工智能在纠正心理理论偏差和自主性偏差中的效果:比较分析
摘要
背景:对话式人工智能 (CAI) 在精神健康干预中的日益增量部署 necessitates 对其在纠正认知偏差和识别人类-人工智能互动中情感方面的效果进行评估。这些偏差,包括心理理论偏差和自主性偏差,可能加剧抑郁和焦虑等精神健康状况。目标:本研究旨在 assess therapeutic chatbots (Wysa、Youper) 相对于 general-purpose language models (GPT-3.5、GPT-4、Gemini Pro) 在识别和纠正认知偏差和识别情感方面的 effectiveness。方法:本研究采用模拟典型用户-机器人互动的虚拟案例情境。 assessed 的认知偏差包括心理理论偏差 (anthropomorphism、overtrust、attribution) 和自主性偏差 (illusion of control、fundamental attribution error、just-world hypothesis)。 Responses 采用准序比例尺进行评估,评估准确性、治疗质量和遵循认知行为疗法 (CBT) 原则。评估涉及认知科学家和临床心理师的双重审阅。结果:该研究发现 general-purpose chatbots 在纠正认知偏差方面优于 therapeutic chatbots,尤其是在 overtrust 偏差、fundamental attribution error 和 just-world hypothesis 上。GPT-4 在所有偏差中取得最高分,而像 Wysa 这样的 therapeutic bots 得分最低。情感识别方面呈现类似趋势,general-purpose bots 在 four out of six 项偏差中优于 therapeutic bots。然而,结果凸显了需要进一步完善 therapeutic chatbots 以 enhance 其效果并 ensure 在数字精神健康干预中安全、有效地 use 的 need。未来的 research 应该 focus on improve affective response and address AI-based therapy 中的伦理考虑。
引用
@article{arxiv.2406.13813,
title = {The Efficacy of Conversational Artificial Intelligence in Rectifying the Theory of Mind and Autonomy Biases: Comparative Analysis},
author = {Marcin Rządeczka and Anna Sterna and Julia Stolińska and Paulina Kaczyńska and Marcin Moskalewicz},
journal= {arXiv preprint arXiv:2406.13813},
year = {2025}
}
备注
28 pages, 5 tables, 6 figures