归因方法的系统性评估：消除阈值偏差并揭示方法依赖的性能模式
机器学习
2025-09-04 v1
摘要
归因方法通过识别有影响力的输入特征来解释神经网络预测，但其评估受到阈值选择偏差的影响，该偏差可能反转方法排名并削弱结论。当前协议在单一阈值处对归因图进行二值化，其中阈值选择本身可使排名改变超过 200 个百分点。我们通过一个无阈值框架解决了这一缺陷，该框架计算交并比曲线下面积（AUC-IoU），捕捉全阈值范围内的归因质量。在皮肤病学成像上评估七种归因方法，我们表明单一阈值指标产生矛盾结果，而无阈值评估提供了可靠的区分。XRAI 相比 LIME 实现了 31% 的提升，相比 vanilla Integrated Gradients 实现了 204% 的提升，且分层分析揭示了跨病变尺度的性能差异高达 269%。这些发现建立了消除评估伪影的方法学标准，并实现了基于证据的方法选择。无阈值框架既提供了对归因行为的理论洞察，也为医学成像及更广泛领域的稳健比较提供了实践指导。
引用
@article{arxiv.2509.03176,
title = {Systematic Evaluation of Attribution Methods: Eliminating Threshold Bias and Revealing Method-Dependent Performance Patterns},
author = {Serra Aksoy},
journal= {arXiv preprint arXiv:2509.03176},
year = {2025}
}
备注
15 pages, 9 figures