导航神经空间：重访概念激活向量以克服方向发散
计算机视觉与模式识别
2025-05-08 v3 人工智能
机器学习
摘要
随着对理解神经网络预测策略的兴趣日益增长，概念激活向量 (CAVs) 已成为在潜空间中建模人类可理解概念的热门工具。通常，CAVs 通过利用线性分类器优化带有与不带给定概念的样本潜表示的可分性来计算。然而，在本文中我们表明，这种面向可分性的计算会导致解可能偏离精确建模概念方向的实际目标。该差异可归因于干扰方向（即与概念无关的信号）的显著影响，这些信号被线性模型的滤波器（即权重）捕获以优化类可分性。为此，我们引入了基于模式的 CAVs，仅关注概念信号，从而提供更准确的概念方向。我们依据与真实概念方向的一致性及其对 CAV 应用的影响评估了多种 CAV 方法，包括概念敏感性测试以及针对由数据伪影引起的捷径行为进行的模型纠正。我们使用 Pediatric Bone Age、ISIC2019 和 FunnyBirds 数据集，以 VGG、ResNet、ReXNet、EfficientNet 和 Vision Transformer 作为模型架构，展示了基于模式的 CAVs 的优势。
引用
@article{arxiv.2202.03482,
title = {Navigating Neural Space: Revisiting Concept Activation Vectors to Overcome Directional Divergence},
author = {Frederik Pahde and Maximilian Dreyer and Leander Weber and Moritz Weckbecker and Christopher J. Anders and Thomas Wiegand and Wojciech Samek and Sebastian Lapuschkin},
journal= {arXiv preprint arXiv:2202.03482},
year = {2025}
}