预测结果作为解释在人-AI 决策中的实证评估
人机交互
2022-08-31 v2
摘要
本文中，我们实证考察了在基于预测结果的解释存在下的人-AI 决策。此类解释在推理时向人类决策者提供每个决策方案的预期后果——其中预测结果通常以问题特定的单位度量（例如，以美元计的利润）。我们在点对点借贷背景下开展了一项试点研究，以评估向非专业研究参与者提供预测结果作为解释的影响。我们的初步发现表明，与无解释或基于特征的解释的情况相比，人们对 AI 推荐的依赖程度有所增加，尤其在 AI 推荐不正确时。这导致区分正确与不正确 AI 推荐的能力受损，最终可能对决策质量产生负面影响。
引用
@article{arxiv.2208.04181,
title = {An Empirical Evaluation of Predicted Outcomes as Explanations in Human-AI Decision-Making},
author = {Johannes Jakubik and Jakob Schöffer and Vincent Hoge and Michael Vössing and Niklas Kühl},
journal= {arXiv preprint arXiv:2208.04181},
year = {2022}
}
备注
Accepted at ECML XKDD workshop