可信卷积神经网络：一种基于梯度惩罚的方法
机器学习
2020-10-01 v1 计算机视觉与模式识别
神经与进化计算
摘要
卷积神经网络（CNNs）常用于图像分类。显著性方法是可用于事后解释 CNN 的方法之一，它沿梯度流识别对预测最相关的像素。尽管 CNN 能正确分类图像，其底层显著性图在许多情况下可能存在错误。这可能导致对模型或其解释有效性的质疑。我们提出一种通过惩罚在训练中产生不准确显著性图的参数选择来训练可信 CNN 的新方法。我们为预测标签正确时生成的不准确显著性图添加惩罚项，为预测标签错误时生成的准确显著性图添加惩罚项，并添加正则化项以惩罚过度自信的显著性图。实验显示分类性能、用户参与度和信任度均得到提升。
引用
@article{arxiv.2009.14260,
title = {Trustworthy Convolutional Neural Networks: A Gradient Penalized-based Approach},
author = {Nicholas Halliwell and Freddy Lecue},
journal= {arXiv preprint arXiv:2009.14260},
year = {2020}
}
备注
13pages