ExMap：利用可解释性热图实现针对虚假相关性的无监督组鲁棒性
计算机视觉与模式识别
2024-03-22 v1 机器学习
摘要
组鲁棒性策略旨在缓解深度学习模型中因其训练数据集存在的虚假相关性而产生的学习偏差。然而，大多数现有方法依赖于获取组的标签分布，这既耗时又昂贵。因此，无监督的组鲁棒性策略备受青睐。基于训练模型的分类策略可以通过可解释性热图准确推断这一洞见，我们引入了 ExMap，这是一种无监督的两阶段机制，旨在增强传统分类器的组鲁棒性。ExMap 利用聚类模块基于模型的可解释性热图推断伪标签，并在训练过程中以此代替真实标签。我们的实证研究验证了 ExMap 的有效性——我们证明它弥合了与其有监督对应方法之间的性能差距，并优于现有的部分有监督和无监督方法。此外，ExMap 可以与现有的组鲁棒性学习策略无缝集成。最后，我们展示了其在解决多重捷径缓解这一新兴问题上的潜力。
引用
@article{arxiv.2403.13870,
title = {ExMap: Leveraging Explainability Heatmaps for Unsupervised Group Robustness to Spurious Correlations},
author = {Rwiddhi Chakraborty and Adrian Sletten and Michael Kampffmeyer},
journal= {arXiv preprint arXiv:2403.13870},
year = {2024}
}