Take 5：基于少量特征的可解释图像分类
计算机视觉与模式识别
2023-08-08 v2 机器学习
摘要
深度神经网络使用数千个大多难以理解的特征来识别单一类别，这是人类无法追溯的决策。我们提出在深度神经网络中使用可解释、稀疏且低维的最终决策层，并具备可度量的可解释性方面，并在细粒度图像分类上予以演示。我们认为，只有当特征可解释且单次决策仅使用极少特征时，人类才能理解机器学习模型的决策。为此，最终层必须稀疏，并且为使特征解释可行，还需低维。我们将具有稀疏低维决策(SLDD)的模型称为 SLDD 模型。我们表明，与稠密高维决策层相比，SLDD 模型在局部和全局都更易于解释，同时能保持有竞争力的准确率。此外，我们提出一种损失函数，可改善模型的特征多样性和准确率。我们的更具可解释性的 SLDD 模型每个类别仅使用仅 50 个特征中的 5 个，同时在四个常用基准数据集上相比具有 2048 个特征的基线模型保持 97% 至 100% 的准确率。
引用
@article{arxiv.2303.13166,
title = {Take 5: Interpretable Image Classification with a Handful of Features},
author = {Thomas Norrenbrock and Marco Rudolph and Bodo Rosenhahn},
journal= {arXiv preprint arXiv:2303.13166},
year = {2023}
}