负向 nuisance：通过数据增强校正伪相关
机器学习
2024-07-04 v3 计算机视觉与模式识别
摘要
在预测任务中，存在某些特征，其与该任务在不同设定下与标签的关系方式相同，这些为语义特征或语义。与标签关系多变的特征则为nuisances。例如，在自然图像中检测牛时，头部形状是语义特征，但因牛的图像常有草地背景而不总是如此，背景便是nuisance。利用nuisance–标签关系的模型在这些关系变化时面临性能下降。构建对此类变化鲁棒的模型需要超出特征与标签样本之外的额外知识。例如，现有工作使用nuisance标注或假设ERM训练的模型依赖于nuisance。整合新型额外知识的方法扩大了可构建鲁棒模型的设定范围。我们开发了一种利用语义知识的方法：在数据中破坏语义，再用被破坏的数据生成可识别nuisance与标签间相关性的模型。一旦识别这些相关性，便可用来校正nuisance驱动预测的情况。我们研究了在多个分布外（OOD）任务（如分类waterbirds、自然语言推理（NLI）及胸部X光中心脏肥大检测）中，语义破坏对驱动不同避免伪相关方法的作用。
引用
@article{arxiv.2210.01302,
title = {Nuisances via Negativa: Adjusting for Spurious Correlations via Data Augmentation},
author = {Aahlad Puli and Nitish Joshi and Yoav Wald and He He and Rajesh Ranganath},
journal= {arXiv preprint arXiv:2210.01302},
year = {2024}
}