计算机视觉黑盒深度神经网络解释器分析：一项综述
人工智能
2019-11-28 v1 计算机视觉与模式识别
摘要
深度学习是对广泛或复杂数据进行推断的最先进的技术。作为因其多层非线性结构而成的黑盒模型，深度神经网络常被批评为不透明且人类的预测不可追溯。此外，模型从常带偏差或受污染判别内容的人工数据集学习。随着其分布扩大，决策算法可能助长偏见与不公，而由于缺乏透明度这不易被察觉。因此，科学家开发了若干所谓的解释器（explainer），试图指出输入与输出间的联系，以简化方式表示机器学习黑盒的内部结构。在本综述中，我们区分用于计算机视觉任务深度神经网络的解释系统的机制与性质。我们给出相关研究的分类体系全面概览，并比较若干涉及可解释性的一般综述论文。我们梳理缺陷与空白，并总结进一步的研究思路。
引用
@article{arxiv.1911.12116,
title = {Analysis of Explainers of Black Box Deep Neural Networks for Computer Vision: A Survey},
author = {Vanessa Buhrmester and David Münch and Michael Arens},
journal= {arXiv preprint arXiv:1911.12116},
year = {2019}
}