迈向揭示训练深度卷积神经网络模型中的偏置

Daniel Omeiza

迈向揭示训练深度卷积神经网络模型中的偏置

计算机视觉与模式识别 2019-12-05 v1

作者: Daniel Omeiza

摘要

我们提出 Smooth Grad-CAM++，一种结合两种近期技术 SMOOTHGRAD 和 Grad-CAM++ 的方法。Smooth Grad-CAM++ 能够在每个实例上可视化某一层、特征图子集或特征图内神经元子集。我们用少量图像进行实验，发现与其他方法相比，Smooth Grad-CAM++ 产生了视觉上更锐利且输入图像中高亮显著像素数量更多的图。Smooth Grad-CAM++ 将深入揭示我们的深度 CNN 模型（包括训练于医学扫描或图像上的模型）学到了什么。从而为依据此信息决策创建具有代表性的训练集。

关键词

Smooth Grad-CAM++ 深度卷积神经网络模型偏置可视化 SMOOTHGRAD Grad-CAM++

引用

@article{arxiv.1912.02094,
  title  = {A Step Towards Exposing Bias in Trained Deep Convolutional Neural Network Models},
  author = {Daniel Omeiza},
  journal= {arXiv preprint arXiv:1912.02094},
  year   = {2019}
}

备注

Presented at NeurIPS 2019 Workshop on Machine Learning for the Developing World. arXiv admin note: substantial text overlap with arXiv:1908.01224

相关论文

查看更多相关论文 →