用于缓解深度神经网络背景偏差的更快速 ISNet
图像与视频处理
2024-09-30 v2 计算机视觉与模式识别
计算机与社会
机器学习
摘要
图像背景中的偏差或虚假相关性会影响神经网络，导致捷径学习（聪明汉斯效应）并阻碍对真实世界数据的泛化。最近提出的 ISNet 架构通过优化逐层相关性传播（LRP，一种解释技术）热力图，来减轻背景对深度分类器的影响。然而，ISNet 的训练时间与应用的类别数量成线性关系。在此，我们提出了重构架构，其训练时间变得与类别数量无关。此外，我们引入了一种简洁且模型无关的 LRP 实现。我们使用合成背景偏差以及胸部 X 光片中的 COVID-19 检测（一个常存在背景偏差的应用）来挑战所提出的架构。这些网络抑制了背景注意力和捷径学习，在分布外测试数据集上超越了多个现有最优模型。所提出的架构将 LRP 优化引入到原始模型无法切实处理的广泛应用中，相比 ISNet 可能带来巨大的训练速度提升。
引用
@article{arxiv.2401.08409,
title = {Faster ISNet for Background Bias Mitigation on Deep Neural Networks},
author = {Pedro R. A. S. Bassi and Sergio Decherchi and Andrea Cavalli},
journal= {arXiv preprint arXiv:2401.08409},
year = {2024}
}