向社会解释解释
人工智能
2019-01-23 v1
摘要
可解释人工智能（XAI）方法与社会所需且要求的解释类型（政策制定者、政府官员等）之间存在脱节。人工智能（AI）专家向不透明系统提出的问题提供的是内部解释，侧重于调试、可靠性和验证。这些与社会向这些系统提出的问题不同，后者旨在建立对其决策的信任和信心。尽管可解释 AI 系统可以回答专家期望的许多问题，但它们通常无法以精确（忠实于模型）且人类可理解的方式解释其做出决策的原因。这些外部解释可用于建立信任、遵守监管和政策变化，并作为外部验证。在本文中，由于深度神经网络（DNN）在决策中的应用及其固有的不透明性，我们重点关注 DNN 的 XAI 方法。我们探讨可解释 DNN 系统能够回答的问题类型，并讨论构建可解释系统以提供满足社会需求与利益的外部解释所面临的挑战。
引用
@article{arxiv.1901.06560,
title = {Explaining Explanations to Society},
author = {Leilani H. Gilpin and Cecilia Testart and Nathaniel Fruchter and Julius Adebayo},
journal= {arXiv preprint arXiv:1901.06560},
year = {2019}
}
备注
NeurIPS 2018 Workshop on Ethical, Social and Governance Issues in AI