中文

卷积神经网络的 PCA 和 SVM Grad-CAM:闭式雅可比表达式

机器学习 2025-08-19 v1

摘要

卷积神经网络 (CNN) 是处理大型分类数据集的有效方法。尽管 CNN 长期被视为黑盒分类方法,但通过诸如 Grad-CAM 等可视化技术,可将其用作白盒方法。当训练样本有限时,将主成分分析 (PCA) 层和/或支持向量机 (SVM) 分类器集成到 CNN 中可有效提升分类性能。然而,传统 Grad-CAM 无法直接应用于 PCA 和/或 SVM 层。因此,为 PCA 和/或 SVM 层生成注意力区域至关重要,以促进白盒方法的开发。本文提出了用于可视化 PCA 特征向量注意力区域的 ``PCA-Grad-CAM'' 方法,以及用于可视化 SVM 分类器层注意力区域的 ``SVM-Grad-CAM'' 方法。为完成这些方法的解析推导,有必要求解从最后一个卷积层到 PCA 和/或 SVM 层的闭式雅可比矩阵(由偏导数组成)。本文给出我们的确切闭式雅可比表达式及其应用于多个主要数据集的可视化结果。

关键词

引用

@article{arxiv.2508.11880,
  title  = {PCA- and SVM-Grad-CAM for Convolutional Neural Networks: Closed-form Jacobian Expression},
  author = {Yuto Omae},
  journal= {arXiv preprint arXiv:2508.11880},
  year   = {2025}
}

备注

15 pages