基于正确理由的正确性：使图像分类具备鲁棒性
计算机视觉与模式识别
2021-01-13 v2 机器学习
摘要
卷积神经网络（CNNs）在图像数据分类中的有效性已得到充分证明。为了向人类解释分类结果，近年来开发了可视化分类证据的方法。这些解释揭示出，有时图像被正确分类，但出于错误的原因，即基于偶然证据。当然，期望图像基于正确理由（即基于实际证据）被正确分类是合乎需求的。为此，我们提出了一种新的解释质量度量，用于衡量图像分类中对象对齐的解释，我们称之为 ObAlEx 度量。利用对象检测方法、解释方法和 ObAlEx，我们量化了 CNNs 对实际证据的关注程度。此外，我们表明对 CNNs 的额外训练可以在不降低其准确率的情况下改善其关注点。
引用
@article{arxiv.2007.11924,
title = {Right for the Right Reason: Making Image Classification Robust},
author = {Anna Nguyen and Adrian Oberföll and Michael Färber},
journal= {arXiv preprint arXiv:2007.11924},
year = {2021}
}