图像误分类的因果解释
机器学习
2020-06-30 v1 机器学习
摘要
图像误分类的因果解释是一个研究不足的细分领域，其潜在地能为模型可解释性提供有价值的见解并提升预测准确率。本研究在六种现代 CNN 架构（包括 VGG16、ResNet50、GoogLeNet、DenseNet161、MobileNet V2 和 Inception V3）上训练 CIFAR-10，并使用条件混淆矩阵与误分类网络探索误分类模式。我们识别并定性区分了两类原因：形态相似性与非本质信息干扰。前一类原因不依赖于模型，而后一类在所有六个模型中并不一致。为减少由非本质信息干扰引起的误分类，本研究擦除了显著性图前5%像素所锚定边界框内的像素。该方法首先验证了原因；然后通过直接修改原因减少了误分类。未来的研究将聚焦于定量区分误分类的这两类原因，推广基于锚框的推理修改方法以减少误分类，并探索这两类原因在误分类中的相互作用。
引用
@article{arxiv.2006.15739,
title = {Causal Explanations of Image Misclassifications},
author = {Yan Min and Miles Bennett},
journal= {arXiv preprint arXiv:2006.15739},
year = {2020}
}