利用AI行为描述改善人机协作
人机交互
2023-01-18 v1 人工智能
摘要
人们与AI系统协作以改进其决策，但往往对AI预测依赖不足或过度，导致表现不如无辅助时。为帮助人们适度依赖AI辅助，我们提出向其展示行为描述，即AI系统在各实例子组上如何表现的细节。我们通过三个不同领域（虚假评论检测、卫星图像分类和鸟类分类）中225名参与者的用户研究检验了行为描述的有效性。我们发现行为描述可通过两种机制提高人机准确率：帮助人们识别AI失误，以及在AI更准确时增加人们对AI的依赖。这些发现凸显了人机协作中人们心智模型的重要性，并表明告知人们AI的高层行为可显著改善AI辅助决策。
引用
@article{arxiv.2301.06937,
title = {Improving Human-AI Collaboration With Descriptions of AI Behavior},
author = {Ángel Alexander Cabrera and Adam Perer and Jason I. Hong},
journal= {arXiv preprint arXiv:2301.06937},
year = {2023}
}
备注
21 pages