MFPP：用于黑盒模型解释的形态碎片扰动金字塔
计算机视觉与模式识别
2020-10-15 v3
摘要
深度神经网络（DNNs）近来已被应用并用于许多先进且多样的任务，如医学诊断、自动驾驶等。由于深度模型缺乏透明性，DNNs常因其预测无法被人解释而受到批评。本文提出一种新颖的形态碎片扰动金字塔（MFPP）方法来解决可解释AI问题。具体而言，我们关注黑盒方案，其可在不必理解DNN内部架构的情况下识别对DNN输出负责的输入区域。在MFPP方法中，我们将输入图像划分为多尺度碎片并随机掩蔽碎片作为扰动以生成显著图，该图指示每个像素对黑盒模型预测结果的重要性。与现有的输入采样扰动方法相比，金字塔结构碎片被证明更为有效。它能更好地挖掘输入图像的形态信息以匹配其语义信息，且不需要DNN内部的任何数值。我们从定性与定量上证明，MFPP在多个DNN模型与数据集上达到并超越了最先进的（SOTA）黑盒解释方法的性能。
引用
@article{arxiv.2006.02659,
title = {MFPP: Morphological Fragmental Perturbation Pyramid for Black-Box Model Explanations},
author = {Qing Yang and Xia Zhu and Jong-Kae Fwu and Yun Ye and Ganmei You and Yuan Zhu},
journal= {arXiv preprint arXiv:2006.02659},
year = {2020}
}
备注
Accepted by 25th International Conference on Pattern Recognition (ICPR2020)