共情的错觉：AI 聊天机器人如何塑造对话感知
人机交互
2025-03-10 v4 人工智能
摘要
随着 AI 聊天机器人越来越多地融入共情，理解以用户为中心的聊天机器人共情感知及其对对话质量的影响仍然至关重要但尚未得到充分探索。本研究考察了聊天机器人身份和感知到的共情如何影响用户的整体对话体验。通过分析来自两个数据集的 155 段对话，我们发现，尽管基于 GPT 的聊天机器人在对话质量上的评分显著更高，但它们始终被认为比人类对话伙伴的共情能力更低。来自 GPT-4o 标注的共情评分与用户评分一致，强化了聊天机器人比人类共情能力更低的感知。我们的研究结果强调了感知共情在塑造对话质量中的关键作用，揭示了实现高质量的人机交互不仅需要简单地嵌入共情语言；它还需要解决用户在与聊天机器人对话中解读和体验共情的细微方式。
引用
@article{arxiv.2411.12877,
title = {The Illusion of Empathy: How AI Chatbots Shape Conversation Perception},
author = {Tingting Liu and Salvatore Giorgi and Ankit Aich and Allison Lahnala and Brenda Curtis and Lyle Ungar and João Sedoc},
journal= {arXiv preprint arXiv:2411.12877},
year = {2025}
}