通过平衡训练难度与模型能力实现域泛化
计算机视觉与模式识别
2023-09-06 v1 人工智能
摘要
域泛化（DG）旨在从一个或多个源域中学习具有域泛化能力的模型，使其能在未见目标域中表现良好。尽管近期取得了进展，现有大多数工作受训于训练样本难度与同期训练模型能力之间的错位，导致所训练的泛化模型过拟合或欠拟合。我们设计了 MoDify，一种动量难度（Momentum Difficulty）框架，通过沿训练过程平衡模型能力与样本难度之间的跷跷板关系来解决该错位。MoDify 包含两个新颖设计，它们在学习域泛化模型的同时协作对抗错位。其一是基于 MoDify 的数据增强，利用 RGB Shuffle 技术动态生成难度感知的训练样本。其二是基于 MoDify 的网络优化，动态调度训练样本以实现难度适当的平衡且平滑的学习。无需额外技巧，MoDify 的简单实现即在多个基准上取得了优越性能。此外，MoDify 可作为插件补充现有方法，且具有通用性，可适用于不同的视觉识别任务。
引用
@article{arxiv.2309.00844,
title = {Domain Generalization via Balancing Training Difficulty and Model Capability},
author = {Xueying Jiang and Jiaxing Huang and Sheng Jin and Shijian Lu},
journal= {arXiv preprint arXiv:2309.00844},
year = {2023}
}
备注
11 pages, 6 figures, Accepted by ICCV 2023