通过部分特征解相关实现分布外泛化
机器学习
2022-02-24 v4 机器学习
摘要
大多数基于深度学习的图像分类方法假设所有样本均在独立同分布(IID)设定下生成。然而,分布外(OOD)泛化在实践中更为常见,这意味着训练与测试环境之间存在不可知的上下文分布偏移。为解决此问题,我们提出一种新颖的部分特征解相关学习(PFDL)算法,其联合优化特征分解网络与目标图像分类模型。特征分解网络将特征嵌入分解为独立部分与相关部分,从而凸显特征间的相关性;随后,相关特征通过解相关所凸显的相关性来学习稳定的特征表示,同时优化图像分类模型。我们在合成数据集上验证了特征分解网络的相关性建模能力。在真实世界数据集上的实验表明,我们的方法能够提升骨干模型在 OOD 图像分类数据集上的准确率。
引用
@article{arxiv.2007.15241,
title = {Out-of-distribution Generalization via Partial Feature Decorrelation},
author = {Xin Guo and Zhengxu Yu and Chao Xiang and Zhongming Jin and Jianqiang Huang and Deng Cai and Xiaofei He and Xian-Sheng Hua},
journal= {arXiv preprint arXiv:2007.15241},
year = {2022}
}