LatentDR：通过样本感知的潜在退化与恢复提升模型泛化能力
计算机视觉与模式识别
2023-08-29 v1 机器学习
摘要
尽管深度学习取得了显著进展，模型往往难以很好地泛化到新的、未见的域，尤其在训练数据有限时。为应对这一挑战，我们提出一种新颖的分布感知潜在增强方法，利用样本间关系来指导增强过程。我们的方法首先在潜在空间中对样本进行随机退化，将其映射到增强标签，然后在训练期间从损坏版本中恢复样本。该过程在退化步骤中混淆分类器，并恢复原始样本的整体类别分布，从而促进多样的类内/跨域变异性。我们在多样的数据集与任务上广泛评估了我们的方法，包括域泛化基准和具有强域偏移的医学影像数据集，在其中我们展示了我们的方法相较现有潜在空间增强方法取得了显著改进。我们进一步展示我们的方法可灵活适配长尾识别任务，证明了其在构建更具泛化性模型方面的通用性。代码见 https://github.com/nerdslab/LatentDR。
引用
@article{arxiv.2308.14596,
title = {LatentDR: Improving Model Generalization Through Sample-Aware Latent Degradation and Restoration},
author = {Ran Liu and Sahil Khose and Jingyun Xiao and Lakshmi Sathidevi and Keerthan Ramnath and Zsolt Kira and Eva L. Dyer},
journal= {arXiv preprint arXiv:2308.14596},
year = {2023}
}