深度神经网络可解释性的新视角
机器学习
2019-09-17 v1 人工智能
机器学习
摘要
深度神经网络（DNNs）被称为黑盒模型。换言之，难以解释模型的内部状态。提升 DNNs 的可解释性是热门研究课题之一。然而，目前 DNNs 可解释性的定义模糊，且何为具有高解释性的模型仍具争议。为解决此问题，我们给出模型的人类可预测性定义，作为 DNNs 可解释性的一部分。本文提出的人类可预测性由在扰动 DNNs 模型时预测其推理变化的难易程度来定义。此外，我们介绍了一个高人类可预测 DNNs 的实例。我们讨论该定义将有助于考虑多种应用类型的 DNNs 可解释性研究。
引用
@article{arxiv.1909.07156,
title = {New Perspective of Interpretability of Deep Neural Networks},
author = {Masanari Kimura and Masayuki Tanaka},
journal= {arXiv preprint arXiv:1909.07156},
year = {2019}
}