对AI建议的适当依赖：概念化与解释的效果
人工智能
2023-04-14 v3 人机交互
摘要
AI建议正变得越来越流行，例如在投资和医疗决策中。由于这种建议通常是不完美的，决策者必须酌情决定是否实际遵循该建议：他们必须“适当地”依赖正确的建议并拒绝不正确的建议。然而，当前关于适当依赖的研究仍然缺乏一个共同的定义以及一个可操作的测量概念。此外，尚未进行深入的实验来帮助理解影响这种行为的因素。在本文中，我们提出依赖适当性（AoR）作为一个基础的、可量化的二维测量概念。我们开发了一个研究模型，分析为AI建议提供解释的效果。在一项有200名参与者的实验中，我们展示了这些解释如何影响AoR，从而影响AI建议的有效性。我们的工作为分析依赖行为和AI顾问的有目的设计提供了基础概念。
引用
@article{arxiv.2302.02187,
title = {Appropriate Reliance on AI Advice: Conceptualization and the Effect of Explanations},
author = {Max Schemmer and Niklas Kühl and Carina Benz and Andrea Bartos and Gerhard Satzger},
journal= {arXiv preprint arXiv:2302.02187},
year = {2023}
}
备注
arXiv admin note: text overlap with arXiv:2204.06916