在存在伪相关的情况下对反事实进行去偏
计算机视觉与模式识别
2023-08-23 v1 图像与视频处理
摘要
深度学习模型在复杂医学影像分类任务中可表现良好，即使其结论基于伪相关（即混杂因素）而非感兴趣因果影像标记——只要它们在训练数据集中普遍盛行。这将限制其跨人群泛化的能力。基于反事实图像生成的可解释性可用于暴露混杂因素，但不提供缓解偏见的策略。本工作中，我们引入首个端到端训练框架，它同时整合了（i）流行的去偏分类器（如分布鲁棒优化（DRO））以避免固着于伪相关，以及（ii）反事实图像生成以揭示与任务相关的可泛化影像标记。此外，我们提出一种新指标——伪相关固着分数（SCLS），以量化分类器对反事实图像所暴露伪相关的依赖程度。通过在两个公开数据集（含模拟与真实视觉伪影）上的综合实验，我们证明该去偏方法：（i）学习跨人群的可泛化标记；（ii）成功忽略伪相关并聚焦于潜在疾病病理。
引用
@article{arxiv.2308.10984,
title = {Debiasing Counterfactuals In the Presence of Spurious Correlations},
author = {Amar Kumar and Nima Fathi and Raghav Mehta and Brennan Nichyporuk and Jean-Pierre R. Falet and Sotirios Tsaftaris and Tal Arbel},
journal= {arXiv preprint arXiv:2308.10984},
year = {2023}
}
备注
Accepted to the FAIMI (Fairness of AI in Medical Imaging) workshop at MICCAI 2023