指示目的与注意力的可解释AI依赖建模
人机交互
2023-07-21 v2
摘要
本研究使用可解释AI(XAI)，其将目的与注意力作为过程解释予以展示，并探究此类解释如何影响人类对AI的信任与使用。本研究中，我们生成指示AI注意力的热力图，开展实验1以确认热力图可解释性的有效性，并开展实验2以探究目的与热力图在依赖（依靠AI）与顺从（接受AI答案）方面的影响。结构方程建模(SEM)分析结果显示：(1)展示AI目的根据AI使用类型、依赖或顺从及任务难度，对信任产生正向与负向影响；(2)仅在更难任务中展示热力图负向影响信任；(3)在更难任务中，热力图根据其可解释性正向影响信任。
引用
@article{arxiv.2302.08067,
title = {Modeling Reliance on XAI Indicating Its Purpose and Attention},
author = {Akihiro Maehigashi and Yosuke Fukuchi and Seiji Yamada},
journal= {arXiv preprint arXiv:2302.08067},
year = {2023}
}
备注
Published in Proceedings of the 45th Annual Meeting of the Cognitive Science Society (CogSci2023)