利用域凸博弈提升泛化能力
计算机视觉与模式识别
2023-03-24 v1 机器学习
摘要
域泛化(DG)倾向于通过利用多个源域学习模型,以缓解深度神经网络泛化能力差的问题。DG 的一个经典解决方案是域增强,其普遍看法是使源域多样化有助于分布外泛化。然而,这些论断多是直观理解而非数学上的。我们的实证探索揭示,模型泛化与域多样性之间的相关性可能并非严格正相关,这限制了域增强的有效性。因此,本工作旨在保证并进一步增强这一类方法的有效性。为此,我们提出了一种 DG 新视角,将其重新表述为域之间的凸博弈。我们首先通过精心设计的基于超模性的正则化项,鼓励每个多样化域增强模型泛化能力。同时,构建样本过滤器以剔除低质量样本,从而避免潜在有害信息的影响。我们的框架为 DG 的形式化分析提供了新途径,启发式分析与大量实验证明了其合理性与有效性。
引用
@article{arxiv.2303.13297,
title = {Improving Generalization with Domain Convex Game},
author = {Fangrui Lv and Jian Liang and Shuang Li and Jinming Zhang and Di Liu},
journal= {arXiv preprint arXiv:2303.13297},
year = {2023}
}
备注
accepted by CVPR 2023