深度神经网络的理解、可视化与解释综述

Atefeh Shahroudnejad

深度神经网络的理解、可视化与解释综述

机器学习 2021-02-04 v1 人工智能

作者: Atefeh Shahroudnejad

摘要

机器学习与信号处理领域近期的进展使得深度神经网络(DNNs)因其在具有重大工程意义的不同且具有挑战性的问题上展现出的前所未有的性能与高准确率而引发了广泛的兴趣激增。然而,当此类深度学习架构被用于制定关键决策(例如涉及人类生命的控制系统中与医学应用中的决策)时,理解、信任并一言以蔽之“解释”深度模型决策背后的论据至关重要。在许多应用中,人工神经网络(包括 DNNs)被视为黑盒系统,无法提供关于其内部处理行为的充分线索。尽管近期已开展一些解释深度网络行为与决策的努力,旨在对 DNNs 的行为与决策进行推理的可解释人工智能(XAI)领域仍处于起步阶段。本文旨在提供关于 DNNs 内部与整体行为之理解、可视化与解释的全面综述。

关键词

深度神经网络可解释人工智能可视化可解释性黑盒模型综述

引用

@article{arxiv.2102.01792,
  title  = {A Survey on Understanding, Visualizations, and Explanation of Deep Neural Networks},
  author = {Atefeh Shahroudnejad},
  journal= {arXiv preprint arXiv:2102.01792},
  year   = {2021}
}

深度神经网络的理解、可视化与解释综述

摘要

关键词

引用

相关论文