通过因果逻辑扰动消除虚假关联
机器学习
2025-05-22 v1
摘要
深度学习在科学、产业和社会等多个领域取得了广泛应用。然而,人们认识到某些方法存在非鲁棒性,依赖虚假关联进行预测。针对这些局限性,亟需发展出能够消解虚假关联的方法。本研究尝试通过逻辑扰动实现因果模型,并引入一种新颖的因果逻辑扰动(Causal Logit Perturbation, CLP)框架,用于为单个样本训练具有生成因果逻辑扰动的分类器,从而消除非因果属性(即图像背景)与类别之间的虚假关联。我们的框架采用扰动网络,将样本的训练特征序列作为输入,生成样本级的逻辑扰动。整个框架通过基于在线元学习的学习算法进行优化,并通过以对抗和事实方式增强元数据来利用人类的因果知识。在包括长尾学习、噪声标签学习、广义长尾学习和子population迁移学习等四个典型偏置学习场景中的经验评估表明,CLP在消除虚假关联方面 consistently 取得了状态最佳性能。此外,可视化结果支持生成因果扰动有效地将模型注意力引向因果图像属性并瓦解虚假关联。
引用
@article{arxiv.2505.15246,
title = {Mitigating Spurious Correlations with Causal Logit Perturbation},
author = {Xiaoling Zhou and Wei Ye and Rui Xie and Shikun Zhang},
journal= {arXiv preprint arXiv:2505.15246},
year = {2025}
}
备注
34 pages,9 figures