扩展可解释性：迈向 AI 系统的社会透明度
人机交互
2021-01-14 v1 人工智能
摘要
随着 AI 驱动的系统日益中介 consequential 决策制定，其可解释性对于终端用户采取知情且负责任的行动至关重要。人际交互中的解释是社会情境化的。AI 系统常常被社会—组织性地嵌入。然而，可解释 AI（XAI）方法一直以算法为中心。我们通过引入并探索社会透明度（Social Transparency，ST）——一种将社会—组织上下文纳入 AI 中介决策解释的社会技术导向视角——朝着社会情境化 XAI 迈出发展性一步。为从概念上探索 ST，我们基于一个推测性设计场景对 29 名 AI 用户与从业者进行了访谈。我们提出了 ST 的构成性设计要素，并发展了一个概念框架，以剖析 ST 在技术、决策和组织层面的影响与意涵。该框架展示了 ST 如何潜在地校准对 AI 的信任、改善决策制定、促进组织集体行动，并培育整体可解释性。我们的工作通过扩展 XAI 的设计空间，对以人为中心的 XAI 论述做出贡献。
引用
@article{arxiv.2101.04719,
title = {Expanding Explainability: Towards Social Transparency in AI systems},
author = {Upol Ehsan and Q. Vera Liao and Michael Muller and Mark O. Riedl and Justin D. Weisz},
journal= {arXiv preprint arXiv:2101.04719},
year = {2021}
}
备注
Accepted to CHI2021