关于 RemOve-And-Retrain 的陷阱：数据处理不等式视角
机器学习
2026-01-06 v4 人工智能
计算机视觉与模式识别
统计方法学
摘要
评估特征重要性近似（亦称为归因方法）的方法已在极其广泛的情境下建立。在可解释深度学习领域，开发用于性能基准测试的稳健技术是一个关键问题。本研究审视了广泛用于衡量特征重要性估计性能的 RemOve-And-Retrain (ROAR) 程序的可靠性。我们从理论基础和实证研究中获得的见解表明，包含较少关于决策函数信息的归因可能在 ROAR 基准测试中取得更优结果，这与 ROAR 的初衷相悖。近期提出的变体 RemOve-And-Debias (ROAD) 中也观察到类似现象，并且我们假定 ROAR 归因度量中存在一种持续的模糊性偏差模式。我们的发现警示人们不要盲目使用 ROAR 度量。
引用
@article{arxiv.2304.13836,
title = {On Pitfalls of $\textit{RemOve-And-Retrain}$: Data Processing Inequality Perspective},
author = {Junhwa Song and Keumgang Cha and Junghoon Seo},
journal= {arXiv preprint arXiv:2304.13836},
year = {2026}
}