测量背景对深度学习在航空器感知分类及特征重要性中的影响
计算机视觉与模式识别
2025-12-08 v1 人工智能
机器人学
摘要
可解释人工智能（XAI）的常见方法侧重于分析给定模型中输入特征对分类任务的重要性：如 SHAP 和 GradCAM 等显著性方法用于衡量输入图像空间区域对分类结果的影响。结合关于输入图像中物体位置的真实信息（例如二值掩码），可确定物体像素是否对分类结果产生高影响，或分类是否聚焦于背景像素。前者被视为健康分类器的标志，而后者则被假设为对虚假关联的过拟合现象。然而，一个主要挑战在于，这些直观解释难以进行定量测试，因此其解释输出缺乏自身的解释。一个主要原因是现实数据中的关联难以避免，而这些关联是伪造的还是合法的则值得争议。相较之下，合成数据可以在所需时主动启用或禁用关联，但往往缺乏足够的真实性与随机性量化。[...] 因此，我们系统地生成了六个用于交通标志识别的合成数据集，仅在相机变化程度和背景相关性方面存在差异[...] 以量化背景相关性、不同程度的相机变化以及所考虑的交通标志形状对分类性能及背景特征重要性的孤立影响。[...] 结果包括在训练域变化下，背景特征何时及其对支持分类任务具有多大影响的量化。[...] 下载地址：synset.de/datasets/synset-signset-ger/background-effect
引用
@article{arxiv.2512.05937,
title = {Measuring the Effect of Background on Classification and Feature Importance in Deep Learning for AV Perception},
author = {Anne Sielemann and Valentin Barner and Stefan Wolf and Masoud Roschani and Jens Ziehn and Juergen Beyerer},
journal= {arXiv preprint arXiv:2512.05937},
year = {2025}
}
备注
8 pages, 2 figures, 7 tables