对比式合成到真实泛化
计算机视觉与模式识别
2021-04-07 v1
摘要
在标注或数据稀缺场景下，基于合成数据训练是有益的。然而，由于域差距，合成训练的模型在真实域中常泛化不佳。在本文中，我们提出一个关键观察：所学特征嵌入的多样性在泛化性能中起着重要作用。为此，我们提出对比式合成到真实泛化（CSG），一种利用预训练 ImageNet 知识防止对合成域过拟合，同时将特征嵌入的多样性作为归纳偏置以提升泛化的新框架。此外，我们用注意力池化（A-pool）增强所提 CSG 框架，使模型聚焦于语义重要区域并进一步提升其泛化。我们在多种合成训练任务上展示了 CSG 的有效性，在零样本域泛化上展现出 SOTA 性能。
引用
@article{arxiv.2104.02290,
title = {Contrastive Syn-to-Real Generalization},
author = {Wuyang Chen and Zhiding Yu and Shalini De Mello and Sifei Liu and Jose M. Alvarez and Zhangyang Wang and Anima Anandkumar},
journal= {arXiv preprint arXiv:2104.02290},
year = {2021}
}
备注
Accepted in ICLR 2021