人类是否更信任来自 AI 的建议？一项人-AI 交互分析
人工智能
2022-06-03 v2 人机交互
摘要
在 AI 的决策支持应用中，AI 算法的输出被框定为给人类用户的建议。用户可忽略该建议或考虑它来修改其决策。随着此类人-AI 交互的日益普遍，理解用户如何应对 AI 建议十分重要。在本文中，我们招募了超过 1100 名众包工作者，以刻画在若干实验设置下人类如何使用 AI 建议相对于来自一组同侪人类的对等建议。我们发现，参与者关于人类与 AI 在给定任务上表现如何的信念影响了他们是否听从建议。当参与者确实听从建议时，他们对人类和 AI 建议的使用方式相似。基于这些结果，我们提出了一个两阶段“激活-整合”的人类行为模型，并用它来刻画影响人-AI 交互的因素。
引用
@article{arxiv.2107.07015,
title = {Do Humans Trust Advice More if it Comes from AI? An Analysis of Human-AI Interactions},
author = {Kailas Vodrahalli and Roxana Daneshjou and Tobias Gerstenberg and James Zou},
journal= {arXiv preprint arXiv:2107.07015},
year = {2022}
}
备注
Conference on Artificial Intelligence, Ethics, and Society (AIES 2022)