人、AI与情境：理解真实世界计算机视觉应用中的终端用户信任
人机交互
2023-05-16 v1 人工智能
摘要
信任是人与 AI 系统交互中的一个重要因素。然而，缺乏考察真实终端用户如何信任或不信任其所交互的 AI 系统的实证研究。多数研究在实验室环境中以假设性终端用户为对象，仅调查信任的单一维度。本文通过对一个真实世界计算机视觉应用的定性案例研究，提供对 AI 信任的整体且细致的理解。我们报告了对一款流行的基于 AI 的鸟类识别应用的 20 名终端用户的访谈结果，其中我们从多个角度询问了他们对应用的信任情况。我们发现参与者认为该应用值得信赖并信任它，但在进行验证行为后选择性地接受应用输出，并在某些高风险情景中决定不采用该应用。我们还发现领域知识与情境是信任相关评估与决策的重要因素。我们讨论了研究结果的启示，并为未来关于 AI 信任的研究提供建议。
引用
@article{arxiv.2305.08598,
title = {Humans, AI, and Context: Understanding End-Users' Trust in a Real-World Computer Vision Application},
author = {Sunnie S. Y. Kim and Elizabeth Anne Watkins and Olga Russakovsky and Ruth Fong and Andrés Monroy-Hernández},
journal= {arXiv preprint arXiv:2305.08598},
year = {2023}
}
备注
FAccT 2023