基于隐式微分学习数据增强以实现领域泛化
计算机视觉与模式识别
2022-10-27 v1
摘要
机器学习模型本质上容易受到训练数据与测试数据之间领域偏移的影响，导致在新领域上性能不佳。领域泛化（DG）旨在通过利用多个源领域来学习一个领域可泛化的模型，从而克服这一问题。本文提出了一种新颖的基于增强的DG方法，称为AugLearn。与现有的数据增强方法不同，我们的AugLearn将数据增强模块视为分类模型的超参数，并通过元学习将模块与模型一起优化。具体而言，在每个训练步骤中，AugLearn (i) 将源领域划分为伪源集和伪目标集，(ii) 以这样一种方式训练增强模块，使得增强后的（合成）图像能使模型在伪目标集上良好泛化。此外，为了克服元学习过程中昂贵的二阶梯度计算，我们基于隐函数定理，为增强模块和分类模型制定了一种高效的联合训练算法。凭借在时间和频率空间增强数据的灵活性，AugLearn在三个标准DG基准数据集PACS、Office-Home和Digits-DG上展示了其有效性。
引用
@article{arxiv.2210.14271,
title = {Learning to Augment via Implicit Differentiation for Domain Generalization},
author = {Tingwei Wang and Da Li and Kaiyang Zhou and Tao Xiang and Yi-Zhe Song},
journal= {arXiv preprint arXiv:2210.14271},
year = {2022}
}
备注
BMVC 2022 (Oral)