衡量 AI 信任的价值——一种社会技术系统视角
人机交互
2022-04-29 v1
摘要
在基于 AI 的系统中建立信任被认为对其采纳和恰当使用至关重要。近期研究因而试图评估这些系统的各种属性如何影响用户信任。然而，关于 AI 中信任的定义与度量的局限性阻碍了该领域的进展，导致结果不一致或难以比较。在本文中，我们概述了定义和度量 AI 信任的主要局限性。我们聚焦于为 AI 信任赋予数值及其在指导真实世界人-AI 交互设计中的效用。采用 AI 的社会技术系统视角，我们探索了两种应对这些挑战的不同方法。我们就这些方法如何在实践中实施并指导人-AI 交互设计提供了可操作的建议。我们由此旨在为研究者和设计者提供一个起点，以重新评估当前对 AI 信任的关注，改善实证研究范式所能提供的与真实世界人-AI 交互期望之间的对齐。
引用
@article{arxiv.2204.13480,
title = {The Value of Measuring Trust in AI - A Socio-Technical System Perspective},
author = {Michaela Benk and Suzanne Tolmeijer and Florian von Wangenheim and Andrea Ferrario},
journal= {arXiv preprint arXiv:2204.13480},
year = {2022}
}
备注
Accepted at CHI 2022 - Workshop on Trust and Reliance in AI-Human Teams (TRAIT), 2022, New Orleans, LA