不变性原理遇上 Vicinal Risk 最小化
计算机视觉与模式识别
2025-01-24 v2
摘要
深度学习模型在计算机视觉任务中表现卓越，但常常难以泛化到分布外(OOD)域。不变性风险最小化(IRM)旨在通过学习域间不变特征来解决 OOD 泛化问题。然而，IRM 在数据集呈现显著多样性变化时效果不佳。虽然Mixup等数据增强方法如语义数据增强(SDA)可提升多样性，但可能导致过度增强和标签不稳定。为此，本文提出一种域共享语义数据增强(SDA)模块，是方差风险最小化(VRM)的一种新型实现，旨在增强数据集多样性同时保持标签一致性。我们进一步提供了Rademacher复杂度分析，建立了较基线方法更紧致的泛化误差上界。大量评估实验表明，在PACS、VLCS、OfficeHome和TerraIncognita等 OOD 基准数据集上，本方法 consistently 优于最先进的域泛化方法。
引用
@article{arxiv.2407.05765,
title = {Invariance Principle Meets Vicinal Risk Minimization},
author = {Yaoyao Zhu and Xiuding Cai and Yingkai Wang and Dong Miao and Zhongliang Fu and Xu Luo},
journal= {arXiv preprint arXiv:2407.05765},
year = {2025}
}