DD-CAM：基于 Delta Debugging 的视觉模型最小充分解释
计算机视觉与模式识别
2026-02-24 v1 软件工程
摘要
我们提出了一个无梯度框架，用于识别视觉模型中最小、充分且保持决策的解释，通过隔离保持预测的最小表示单元子集。与现有方法聚合所有单元、导致杂乱热力图不同，我们的方法 DD-CAM 识别一个 1-最小子集，其联合激活足以保持预测（即从子集中移除任何单元都会改变预测）。为高效隔离最小充分子集，我们采用软件调试中的系统化归约策略 Delta Debugging，并根据分类器头部中单元间相互作用情况配置其搜索策略：针对非相互作用的模型测试单个单元，针对存在单元相互作用的模型测试单元组合。随后生成仅突出最关键特征的最小、保持预测的热力图。我们的实验评估表明，该方法能够产生更可靠的解释，并在局部化精度上优于基于 CAM 的最新方法。
引用
@article{arxiv.2602.19274,
title = {DD-CAM: Minimal Sufficient Explanations for Vision Models Using Delta Debugging},
author = {Krishna Khadka and Yu Lei and Raghu N. Kacker and D. Richard Kuhn},
journal= {arXiv preprint arXiv:2602.19274},
year = {2026}
}