FACTS：先放大相关性再切片以发现偏差
计算机视觉与模式识别
2023-10-02 v1
摘要
计算机视觉数据集常包含任务相关标签与（易学习的）潜在任务无关属性（如上下文）之间的虚假相关性。在此类数据集上训练的模型会学习“捷径”，并在相关性不成立的偏差冲突数据切片上表现不佳。本工作中，我们研究识别此类切片以指导下游偏差缓解策略的问题。我们提出先放大相关性再切片以发现偏差（FACTS），其中我们首先通过强正则化经验风险最小化来放大相关性以拟合简单的偏差对齐假设。接着，我们在偏差对齐特征空间中通过混合建模进行相关性感知切片，以发现捕捉不同相关性的低性能数据切片。尽管简单，我们的方法在一系列多样评估设置中相较先前工作在相关性偏差识别上实现了显著提升（precision@10 最高提升 35%）。我们的代码见：https://github.com/yvsriram/FACTS。
引用
@article{arxiv.2309.17430,
title = {FACTS: First Amplify Correlations and Then Slice to Discover Bias},
author = {Sriram Yenamandra and Pratik Ramesh and Viraj Prabhu and Judy Hoffman},
journal= {arXiv preprint arXiv:2309.17430},
year = {2023}
}
备注
Accepted to ICCV 2023