通过逐层相关性传播优化提升深度神经网络对背景偏置的泛化与鲁棒性
图像与视频处理
2024-01-12 v7 计算机视觉与模式识别
机器学习
摘要
图像背景中的特征可能与图像类别产生虚假相关，即背景偏置。它们会影响分类器的决策，导致捷径学习（Clever Hans 效应）。该现象生成的深度神经网络（DNNs）在标准评测数据集上表现良好，但对真实世界数据泛化性差。逐层相关性传播（LRP）可解释 DNNs 的决策。本文表明，对 LRP 热力图进行优化可最小化背景偏置对深度分类器的影响，抑制捷径学习。该方法不增加推理计算成本，轻量且快速。此外，它几乎适用于任何分类架构。在图像背景中注入合成偏置后，我们将所提方法（称为 ISNet）与八种最先进 DNNs 比较，定量证明其对抗背景偏置的优越鲁棒性。混合数据集在胸部 X 光片的 COVID-19 与结核病分类中常见，助长背景偏置。ISNet 通过聚焦肺部减少了捷径学习，从而其在外部（分布外）测试数据库上的泛化性能显著超越所有已实现的基准模型。
引用
@article{arxiv.2202.00232,
title = {Improving deep neural network generalization and robustness to background bias via layer-wise relevance propagation optimization},
author = {Pedro R. A. S. Bassi and Sergio S. J. Dertkigil and Andrea Cavalli},
journal= {arXiv preprint arXiv:2202.00232},
year = {2024}
}
备注
Text and style improvements. Included reference to the published article (Nature Communications, https://doi.org/10.1038/s41467-023-44371-z)