人工神经网络的可解释性:综述
机器学习
2021-09-29 v4 人工智能
机器学习
摘要
以人工深度神经网络(DNNs)为代表的深度学习在处理文本、图像、视频、图等诸多重要领域取得了巨大成功。然而,DNNs的黑箱特性已成为其在医疗诊断与治疗等任务关键型应用中被广泛接受的主要障碍之一。鉴于深度学习的巨大潜力,解释神经网络近来吸引了大量研究关注。本文基于我们提出的综合分类体系,系统回顾了近期在理解神经网络机制方面的研究,描述了可解释性尤其是医学中的应用,并讨论了可解释性研究的未来方向,例如与模糊逻辑和脑科学的关联。
引用
@article{arxiv.2001.02522,
title = {On Interpretability of Artificial Neural Networks: A Survey},
author = {Fenglei Fan and Jinjun Xiong and Mengzhou Li and Ge Wang},
journal= {arXiv preprint arXiv:2001.02522},
year = {2021}
}