XAI 中的“谁”：AI 背景如何塑造对 AI 解释的感知
人机交互
2024-03-07 v2 人工智能
计算机与社会
摘要
AI 系统的可解释性对用户采取知情行动至关重要。理解“谁”打开了 AI 的黑箱，与打开黑箱本身同样重要。我们对两组不同人群——有 AI 背景与无 AI 背景者——如何感知不同类型 AI 解释进行了混合方法研究。在定量上，我们分享了沿五个维度的用户感知。在定性上，我们描述了 AI 背景如何影响解读，并通过挪用与认知启发式视角阐明差异。我们发现：（1）两组出于不同原因均对数字表现出无根据的信任；（2）每组均在超出其预期设计的解释中发现了价值。我们的发现对 XAI 领域具有关键启示，展示了 AI 生成的解释如何即便出于好意也会产生负面后果，以及其如何可能导致信任的有害操纵。我们提出了缓解这些问题的设计干预措施。
引用
@article{arxiv.2107.13509,
title = {The Who in XAI: How AI Background Shapes Perceptions of AI Explanations},
author = {Upol Ehsan and Samir Passi and Q. Vera Liao and Larry Chan and I-Hsiang Lee and Michael Muller and Mark O. Riedl},
journal= {arXiv preprint arXiv:2107.13509},
year = {2024}
}