可解释人工智能对自动化偏差的影响
人机交互
2022-04-20 v1 人工智能
摘要
人工智能（AI）正获得发展势头，其在医学和银行等众多领域未来工作中的重要性持续上升。然而，关于人类与 AI 有效协作的见解仍然很少。通常，AI 通过弥补人类局限来辅助人类决策。然而，它也可能引发人类偏差，尤其是以自动化偏差形式表现出来的对 AI 建议的过度依赖。我们旨在阐明通过可解释 AI（XAI）影响自动化偏差的潜力。在本预测试中，我们推导出一个研究模型并描述我们的研究设计。随后，我们针对酒店评论分类开展了一项在线实验，并讨论初步结果。我们期望我们的研究有助于安全混合智能系统的设计与开发。
引用
@article{arxiv.2204.08859,
title = {On the Influence of Explainable AI on Automation Bias},
author = {Max Schemmer and Niklas Kühl and Carina Benz and Gerhard Satzger},
journal= {arXiv preprint arXiv:2204.08859},
year = {2022}
}
备注
Thirtieth European Conference on Information Systems (ECIS 2022)