中文

类别对上下文不变且反之亦然:关于分布外泛化中不变性的学习

计算机视觉与模式识别 2025-10-14 v3

摘要

分布外泛化(OOD)旨在学习对环境变化的不变性。若每一类中的上下文均匀分布,OOD 将十分平凡,因为基于一个基本原理——类别对上下文不变——上下文可被轻易去除。然而,收集此类平衡数据集并不现实。在不平衡数据上学习使模型偏向上下文,从而损害 OOD。因此,OOD 的关键在于上下文平衡。我们认为先前工作中广泛采用的假设,即上下文偏置可直接标注或从有偏类别预测中估计,会导致上下文不完整甚至错误。相反,我们指出上述原理被长期忽视的另一面:上下文也对类别不变,这促使我们将类别(已标注)视为变化的环境以解决上下文偏置(无需上下文标签)。我们通过最小化类内样本相似度的对比损失,同时确保该相似度在所有类别间不变来实现此想法。在具有各类上下文偏置与域间隙的基准上,我们展示了配备我们上下文估计的简单基于重加权的分类器达到了最先进性能。我们在附录中给出理论依据,代码见 https://github.com/simpleshinobu/IRMCon。

关键词

引用

@article{arxiv.2208.03462,
  title  = {Class Is Invariant to Context and Vice Versa: On Learning Invariance for Out-Of-Distribution Generalization},
  author = {Jiaxin Qi and Kaihua Tang and Qianru Sun and Xian-Sheng Hua and Hanwang Zhang},
  journal= {arXiv preprint arXiv:2208.03462},
  year   = {2025}
}

备注

Accepted by ECCV 2022