通过共情在连续成败任务中使智能体信任保持稳定
人机交互
2025-04-22 v1
摘要
随着 AI 技术的发展，对 AI 智能体的信任在人类社会中越来越多 AI 应用里变得愈发重要。改善信任关系的可能途径包括共情、成败序列与能力（表现）。恰当的信任较不易引发实际表现与理想表现间的偏差。本研究中，我们聚焦于智能体的共情与成败序列，以提升对 AI 智能体的信任。我们通过实验考察智能体对人所施加的共情随时间对信任变化的影响。实验采用双因素混合设计：共情（有、无）与成败序列（阶段 1 至阶段 5）。使用 198 名参与者的数据进行了方差分析（ANOVA）。结果显示共情因素与成败序列因素间存在交互作用，当存在共情时，对智能体的信任趋于稳定。该结果支持我们的假设。本研究表明，将 AI 智能体设计为具有共情能力是信任的重要影响因素，并有助于人类与 AI 智能体建立恰当的信任关系。
引用
@article{arxiv.2306.09447,
title = {Making an agent's trust stable in a series of success and failure tasks through empathy},
author = {Takahiro Tsumura and Seiji Yamada},
journal= {arXiv preprint arXiv:2306.09447},
year = {2025}
}
备注
9 pages, 7 figures, 4tables, submitted HAI2023