迈向不确定性感知的任务委托与人机协同决策

尽管人工智能（AI）在支持各领域决策方面展现出日益广阔的前景，但培养人类对 AI 的适当依赖仍然是一个关键挑战。在本文中，我们研究了探索基于距离的不确定性分数用于任务委托给 AI 的效用，并描述了这些分数如何通过嵌入表示进行可视化以支持人机决策。在开发了一个基于 AI 的物理中风康复评估系统后，我们对 19 名医疗专业人员和 10 名医学/健康专业学生进行了研究，以了解探索基于距离的不确定性分数对用户 AI 依赖程度的影响。我们的结果表明，基于距离的不确定性分数在识别不确定案例方面优于传统的基于概率的不确定性分数。此外，在探索任务委托的置信分数并查看基于距离的不确定性分数的嵌入可视化后，参与者在查看 AI 输出后实现了 8.20% 更高的正确决策率、7.15% 更高的将决策更正为正确的比率，以及 7.14% 更低的查看 AI 输出后错误更改决策的比率，相较于查看基于概率的不确定性分数的参与者（$p<0.01$）。我们的发现突显了基于距离的不确定性分数在提高决策准确性和促进对 AI 的适当依赖方面的潜力，同时也讨论了人机协同决策中持续的挑战。