面向 XAI 的设计者-用户沟通：一种探讨 XAI 设计的认识论路径
人工智能
2021-05-18 v1 人机交互
摘要
人工智能正成为我们当今所用任何技术的一部分。若 AI 影响人们的决策，则关于 AI 输出、结果与行为的解释便成为必要能力。然而，与各类利益相关者讨论 XAI 特性并非易事。现有多数 XAI 框架与方法以数据科学家和 ML 开发者为用户。我们的研究面向 AI 系统终端用户的 XAI。我们认为需要在 AI 系统设计早期并与所有利益相关者讨论 XAI。本工作中，我们旨在探究如何使 AI 设计开发者与其终端用户之间关于 XAI 场景与机遇的讨论可操作化。我们采用意指讯息作为概念工具来构建与讨论 XAI 场景。我们实验性地将它用于讨论一个医疗 AI 系统。
引用
@article{arxiv.2105.07804,
title = {Designer-User Communication for XAI: An epistemological approach to discuss XAI design},
author = {Juliana Jansen Ferreira and Mateus Monteiro},
journal= {arXiv preprint arXiv:2105.07804},
year = {2021}
}
备注
ACM CHI Workshop on Operationalizing Human-Centered Perspectives in Explainable AI at CHI 2021. 6 pages