解释以修正:一种解释并纠正 DNN 目标检测器预测结果的框架
计算机视觉与模式识别
2018-11-21 v1
摘要
解释深度神经网络(DNNs)的预测是一项重要且非平凡的任务。在本文中,我们提出一种实用方法来解释 DNN 目标检测器的决策,其保真度可与最先进方法媲美,且具备处理大型数据集的足够计算效率。我们的方法依赖于近期理论并近似 Shapley 特征重要性值。我们定性及定量地表明,所提出的解释方法可用于发现导致 DNN 目标检测失败的图像特征。集成到“解释以修正”(E2X)框架中的已开发软件工具比先前方法计算效率高出 10 倍,并可用于利用图形处理单元(GPUs)进行集群处理。最后,我们提出 E2X 框架的一种潜在扩展,其中发现的缺失特征可被加入训练数据集,以在模型重新训练后克服失败。
引用
@article{arxiv.1811.08011,
title = {Explain to Fix: A Framework to Interpret and Correct DNN Object Detector Predictions},
author = {Denis Gudovskiy and Alec Hodgkinson and Takuya Yamaguchi and Yasunori Ishii and Sotaro Tsukizawa},
journal= {arXiv preprint arXiv:1811.08011},
year = {2018}
}
备注
Systems for ML Workshop @ NIPS 2018