发现与治愈：概念感知的伪相关缓解
机器学习
2023-06-06 v2 计算机视觉与模式识别
图像与视频处理
摘要
深度神经网络常依赖伪相关进行预测，这阻碍了训练环境之外的泛化能力。例如，将猫与床背景关联的模型可能在没有床的其他环境中无法预测猫的存在。缓解伪相关对于构建可信模型至关重要。然而，现有工作缺乏透明度，无法为缓解过程提供洞见。在本工作中，我们提出一种可解释框架——发现与治愈（DISC）来解决该问题。借助人类可解释的概念，DISC 迭代地 1）发现跨不同环境的不稳定概念作为伪属性，然后 2）使用所发现的概念对训练数据进行干预以减少伪相关。在系统性实验中，DISC 比现有方法提供了更优的泛化能力和可解释性。具体而言，它在物体识别任务和皮肤病变分类任务上分别比最先进方法高出 7.5% 和 9.6%。此外，我们提供理论分析和保证以理解由 DISC 训练的模型的益处。代码和数据可在 https://github.com/Wuyxin/DISC 获取。
引用
@article{arxiv.2305.00650,
title = {Discover and Cure: Concept-aware Mitigation of Spurious Correlation},
author = {Shirley Wu and Mert Yuksekgonul and Linjun Zhang and James Zou},
journal= {arXiv preprint arXiv:2305.00650},
year = {2023}
}
备注
ICML 2023