CASE：对比性激活用于斑点估计
机器学习
2025-06-10 v1
摘要
斑点方法广泛用于可视化模型预测中哪些输入特征被视为相关。然而，这些视觉上合理性可能会掩盖其关键局限性。在本工作中，我们提出了一种用于诊断 class sensitivity 的测试方法：该方法衡量模型区分相同输入上不同 class 标签的能力。通过大量实验，我们展示许多广泛使用的斑点方法在不同 class 标签下几乎产生相同的解释，这质疑了其可靠性。我们发现，class-insensitive 行为在不同 architecture 和 dataset 之间持久存在，表明这种失效模式是结构性的而非模型特定的。受此启发，我们引入 CASE，这是一种对比解释方法，隔离唯一针对预测 class 的特征。我们使用所提出的诊断方法以及基于 perturbation 的保真度测试对 CASE 进行评估，表明其为现有方法所未有的忠实且更具 class-specific 解释。
引用
@article{arxiv.2506.07328,
title = {Mobility-Aware Asynchronous Federated Learning with Dynamic Sparsification},
author = {Jintao Yan and Tan Chen and Yuxuan Sun and Zhaojun Nan and Sheng Zhou and Zhisheng Niu},
journal= {arXiv preprint arXiv:2506.07328},
year = {2025}
}