寻找丢失的域泛化
机器学习
2020-07-06 v1 机器学习
摘要
域泛化算法的目标是在不同于训练期间所见分布的数据上做出良好预测。尽管存在大量的域泛化算法,但实验条件——数据集、架构和模型选择标准——的不一致性使得公平和现实的比较变得困难。在本文中,我们旨在理解域泛化算法在现实环境中的有用性。作为第一步,我们认识到对于域泛化任务而言,模型选择并非易事。与先前工作相反,我们认为没有模型选择策略的域泛化算法应被视为不完整的。接下来,我们实现了DomainBed,一个用于域泛化的测试平台,包括七个多域数据集、九个基线算法和三种模型选择标准。我们使用DomainBed进行了广泛的实验,发现当仔细实现时,经验风险最小化在所有数据集上表现出最先进的性能。展望未来,我们希望DomainBed的发布,连同同行研究者的贡献,将简化域泛化领域可重复且严谨的研究。
引用
@article{arxiv.2007.01434,
title = {In Search of Lost Domain Generalization},
author = {Ishaan Gulrajani and David Lopez-Paz},
journal= {arXiv preprint arXiv:2007.01434},
year = {2020}
}