中文

(可解释)人工智能中的不信任——测量假象还是独立构念?

人机交互 2023-03-30 v1 人工智能

摘要

信任是开发可解释人工智能(XAI)的一个关键动机。然而,试图测量对人工智能的信任的研究人员面临诸多挑战,例如不同的信任概念化、可能无法引发作为信任前提的不确定性的简化实验任务,以及缺乏在人工智能背景下经过验证的信任问卷。在承认这些问题的基础上,我们发现了当前似乎未被充分重视的又一挑战——信任作为一个构念与作为独立于信任的第二个构念的\emph{不信任}之间的潜在区分。尽管长期以来学术界对这一问题存在争论,且对信任的一维与二维概念化均有论证,但不信任在XAI中似乎研究相对不足。在本立场论文中,我们不仅强调不信任作为独立于信任的构念的理论论据,还结合同样支持信任与不信任相区分的心理测量学证据加以阐释。目前仍需研究现有的心理测量学证据是否足以证明不信任的存在,抑或是不信任仅仅是一种测量假象。尽管如此,XAI社区应保持开放态度,将信任与不信任均纳入考量,以更全面地理解XAI中这两个相关构念。

关键词

引用

@article{arxiv.2303.16495,
  title  = {Distrust in (X)AI -- Measurement Artifact or Distinct Construct?},
  author = {Nicolas Scharowski and Sebastian A. C. Perrig},
  journal= {arXiv preprint arXiv:2303.16495},
  year   = {2023}
}