利用人工星形胶质细胞增强Vision Transformer的可解释性
计算机视觉与模式识别
2025-05-29 v1 人工智能
机器学习
摘要
机器学习模型实现了高精度，但其决策过程通常缺乏可解释性。此外，随着模型复杂度的增加，可解释性通常会降低。现有改善可解释性的努力主要涉及开发新的可解释人工智能（XAI）技术或在训练过程中引入可解释性约束。虽然这些方法取得了特定的改进，但其适用性仍然有限。在本工作中，我们提出了带有人工星形胶质细胞的Vision Transformer（ViTA）。这种免训练的方法受神经科学启发，增强了预训练深度神经网络的推理能力，以生成更符合人类认知的解释。我们采用两种著名的XAI技术Grad-CAM和Grad-CAM++对我们的方法进行了评估，并将其与标准Vision Transformer（ViT）进行了比较。使用ClickMe数据集，我们量化了XAI技术生成的热图与（人类对齐的）真实值之间的相似度。我们的结果一致表明，引入人工星形胶质细胞增强了模型解释与人类感知的对齐程度，在所有使用的XAI技术和指标上均带来了统计学上的显著改善。
引用
@article{arxiv.2505.21513,
title = {Enhancing Vision Transformer Explainability Using Artificial Astrocytes},
author = {Nicolas Echevarrieta-Catalan and Ana Ribas-Rodriguez and Francisco Cedron and Odelia Schwartz and Vanessa Aguiar-Pulido},
journal= {arXiv preprint arXiv:2505.21513},
year = {2025}
}
备注
LXCV Workshop at IEEE / CVF Computer Vision and Pattern Recognition Conference (CVPR) 2025