AI 辅助决策中自信心塑造的影响与可行性
人机交互
2025-02-21 v1 计算与语言
计算机与社会
摘要
在 AI 辅助决策中，人们既重要又具挑战的是人们是否能够适当地依赖 AI，尤其是在金融和医疗等高风险领域。本文从以人为中心的角度出发，提出一种用于塑造自信心的干预措施，以在特定目标水平上校准自信心。我们首先通过量化人类-AI 团队绩效的上限提升，展示了自信心塑造的影响。我们对 121 名参与者进行的行为实验表明，自信心塑造可通过缓解对 AI 的过度和不足依赖，使人类-AI 团队绩效提升约 50%。随后，我们提出自信心预测任务，以识别何时需要该干预。我们的结果表明，简单的机器学习模型在预测自信心方面达到 67% 的准确率。我们进一步说明了此类干预的可行性。观察到情感与自信心之间的关系表明，修改情感可能是塑造自信心的可行策略。最后，我们概述了未来研究方向，以支持在真实场景中部署自信心塑造，以实现有效的人类-AI 协作。
引用
@article{arxiv.2502.14311,
title = {The Impact and Feasibility of Self-Confidence Shaping for AI-Assisted Decision-Making},
author = {Takehiro Takayanagi and Ryuji Hashimoto and Chung-Chi Chen and Kiyoshi Izumi},
journal= {arXiv preprint arXiv:2502.14311},
year = {2025}
}