(可解释)人工智能中的不信任——测量假象还是独立构念?
人机交互
2023-03-30 v1 人工智能
摘要
信任是开发可解释人工智能(XAI)的一个关键动机。然而,试图测量对人工智能的信任的研究人员面临诸多挑战,例如不同的信任概念化、可能无法引发作为信任前提的不确定性的简化实验任务,以及缺乏在人工智能背景下经过验证的信任问卷。在承认这些问题的基础上,我们发现了当前似乎未被充分重视的又一挑战——信任作为一个构念与作为独立于信任的第二个构念的\emph{不信任}之间的潜在区分。尽管长期以来学术界对这一问题存在争论,且对信任的一维与二维概念化均有论证,但不信任在XAI中似乎研究相对不足。在本立场论文中,我们不仅强调不信任作为独立于信任的构念的理论论据,还结合同样支持信任与不信任相区分的心理测量学证据加以阐释。目前仍需研究现有的心理测量学证据是否足以证明不信任的存在,抑或是不信任仅仅是一种测量假象。尽管如此,XAI社区应保持开放态度,将信任与不信任均纳入考量,以更全面地理解XAI中这两个相关构念。
引用
@article{arxiv.2303.16495,
title = {Distrust in (X)AI -- Measurement Artifact or Distinct Construct?},
author = {Nicolas Scharowski and Sebastian A. C. Perrig},
journal= {arXiv preprint arXiv:2303.16495},
year = {2023}
}