超越预测：AI 能力与弱点的透明度沟通在人类-AI 协作中的研究
人机交互
2025-08-13 v1
摘要
人类-AI 协作的承诺在于人类与AI共同实现单独无法达到的性能水平。人类与AI之间有效的沟通对于团队协作至关重要，使用户能够高效地从AI assistance 中受益。本文探讨了AI沟通对人类-AI 团队绩效的影响。我们考察传递AI能力与局限性信息的解释方式。为实现这一目标，我们在模型的错误上训练决策树，使其识别并解释可能出错的情形。通过对收入预测任务的用户研究，我们评估了不同信息水平和关于AI预测解释的影响。我们的结果表明，AI绩效洞察可提升任务绩效，传达AI对其能力与弱点的意识有助于信任校准。这些发现突显了信息传递方式如何影响AI辅助决策中用户信任与依赖的重要性。
引用
@article{arxiv.2508.09033,
title = {Beyond Predictions: A Study of AI Strength and Weakness Transparency Communication on Human-AI Collaboration},
author = {Tina Behzad and Nikolos Gurney and Ning Wang and David V. Pynadath},
journal= {arXiv preprint arXiv:2508.09033},
year = {2025}
}
备注
Accepted as LBW, HCII 2025