自动化合成到真实泛化
机器学习
2020-07-15 v1 计算机视觉与模式识别
机器人学
机器学习
摘要
在合成图像上训练的模型常面临向真实数据泛化能力下降的问题。按照惯例，这些模型常以 ImageNet 预训练表征初始化。尽管利用该知识以维持泛化能力是常见做法，但 ImageNet 知识的作用却鲜被讨论。一个例子是精心手动调节早停与分层学习率，这被证明能改善合成到真实的泛化，但也繁琐且启发式。本工作中，我们显式地鼓励合成训练的模型与 ImageNet 预训练模型保持相似表征，并提出一种学习至优化（L2O）策略来自动化分层学习率的选择。我们证明所提框架能显著提升合成到真实的泛化性能，而无需看到并在真实数据上训练，同时也利于如域适应等下游任务。代码可见于：https://github.com/NVlabs/ASG。
引用
@article{arxiv.2007.06965,
title = {Automated Synthetic-to-Real Generalization},
author = {Wuyang Chen and Zhiding Yu and Zhangyang Wang and Anima Anandkumar},
journal= {arXiv preprint arXiv:2007.06965},
year = {2020}
}
备注
Accepted to ICML 2020