可解释人工智能(XAI)：面向负责任AI的概念、分类体系、机遇与挑战
人工智能
2019-12-30 v2 机器学习
神经与进化计算
摘要
近年来，人工智能(AI)获得了显著的发展势头，有望在众多应用领域带来最佳预期。要实现这一点，整个学界面临着可解释性这一障碍，这是由亚符号主义(如集成模型或深度神经网络)带来的AI技术的固有问题，在上一轮AI热潮中并未出现。支撑该问题的范式属于所谓的可解释人工智能(XAI)领域，其被公认为AI模型实际部署的关键特征。本综述考察了XAI领域的现有文献，并展望了尚待达成的目标。我们总结了先前在机器学习中定义可解释性的努力，建立了一个涵盖先前概念主张的新定义，重点关注寻求可解释性所面向的受众。随后我们提出并讨论了对不同机器学习模型可解释性的近期贡献的分类体系，包括针对深度学习方法构建的第二套分类体系。该文献分析构成了XAI所面临一系列挑战的背景，例如数据融合与可解释性之间的十字路口。我们的展望通向负责任人工智能的概念，即一种以公平性、模型可解释性和问责制为核心、在真实组织中大规模实施AI方法的方法论。我们的最终目标是为XAI新手提供参考资料以激发未来的研究进展，同时也鼓励其他学科的专家和专业人士在其活动领域中拥抱AI的优势，而不因其缺乏可解释性而带有任何先验偏见。
引用
@article{arxiv.1910.10045,
title = {Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges toward Responsible AI},
author = {Alejandro Barredo Arrieta and Natalia Díaz-Rodríguez and Javier Del Ser and Adrien Bennetot and Siham Tabik and Alberto Barbado and Salvador García and Sergio Gil-López and Daniel Molina and Richard Benjamins and Raja Chatila and Francisco Herrera},
journal= {arXiv preprint arXiv:1910.10045},
year = {2019}
}
备注
67 pages, 13 figures, accepted for its publication in Information Fusion