模型解释中被忽视的基线
计算机视觉与模式识别
2026-05-27 v3 软件工程
摘要
我们注意到现有的模型解释方法通常忽略基线，而这种忽略常导致解释不精确甚至错误。在本文中，我们重新表述模型解释任务及其解释原则，以展示基线的重要性。我们进一步统一梯度方法、集成梯度 (IG) 方法和泰勒展开，阐明它们之间的联系，并明确指出每种方法的基线。基于此，我们分析了相关模型解释方法 (IG、LayerCAM、ODAM、差分图) 中的缺陷和错误。我们主张通过解释结果与解释目标之间的归因误差来评估模型解释结果的质量，而不是采用基于边际效应或假设模型完美性能的 flawed 评估方法。我们修订 IG 方法， developing 一种具有清晰合理基线的模型解释方法，取得更好效果。该方法支持来自任意层的特征的模型解释，基于不同层特征的解释都是合理的，这些结果之间的差异反映了特征提取不同阶段的特征提取程度。
引用
@article{arxiv.2605.22417,
title = {The Neglected Baseline in Model Interpretation},
author = {Yongjin Cui and Xiaohui Fan},
journal= {arXiv preprint arXiv:2605.22417},
year = {2026}
}