深度神经网络可解释性及其超越：方法与应用综述
机器学习
2021-02-26 v2 人工智能
计算机视觉与模式识别
神经与进化计算
机器学习
摘要
随着机器学习在工业与科学领域的广泛且极为成功的应用，对可解释人工智能(Explainable AI)的需求日益增长。因此，用于更好地理解非线性机器学习（尤其是深度神经网络）的问题求解能力与策略的可解释性与解释方法正受到越来越多的关注。在这项工作中，我们旨在（1）及时概述这一活跃的新兴领域，重点关注“事后”(post-hoc)解释，并阐释其理论基础；（2）从理论与比较评估的视角，利用大量仿真对可解释性算法进行检验；（3）概述最佳实践要点，即如何将解释方法最佳地纳入机器学习的常规使用中；（4）在具有代表性的应用场景选择中展示可解释人工智能的成功使用。最后，我们讨论了这一令人振奋的机器学习基础领域所面临的挑战与可能的未来方向。
引用
@article{arxiv.2003.07631,
title = {Explaining Deep Neural Networks and Beyond: A Review of Methods and Applications},
author = {Wojciech Samek and Grégoire Montavon and Sebastian Lapuschkin and Christopher J. Anders and Klaus-Robert Müller},
journal= {arXiv preprint arXiv:2003.07631},
year = {2021}
}
备注
30 pages, 20 figures