简单域泛化方法是开放域泛化的强基线
计算机视觉与模式识别
2023-04-03 v1 人工智能
机器学习
摘要
在真实世界应用中,机器学习模型除了需要处理域偏移(即训练与推理阶段数据分布不同)外,还需处理开放集识别(OSR),即推理阶段出现未知类别。域泛化(DG)旨在处理推理阶段目标域在模型训练时不可及的域偏移情形。开放域泛化(ODG)同时考虑 DG 与 OSR。域增强元学习(DAML)是一种针对 ODG 的方法,但具有复杂的学习过程。另一方面,尽管已提出多种 DG 方法,它们尚未在 ODG 情形下被评估。本工作全面评估现有 DG 方法在 ODG 中的表现,并表明两种简单 DG 方法——相关对齐(CORAL)与最大均值差异(MMD)——在若干情形下可与 DAML 竞争。此外,我们通过引入 DAML 中使用的技术(如集成学习与 Dirichlet mixup 数据增强)提出 CORAL 与 MMD 的简单扩展。实验评估表明,扩展后的 CORAL 与 MMD 能以更低计算成本达到与 DAML 相当的性能。这表明简单的 DG 方法及其简单扩展是 ODG 的强基线。实验所用代码见 https://github.com/shiralab/OpenDG-Eval。
引用
@article{arxiv.2303.18031,
title = {Simple Domain Generalization Methods are Strong Baselines for Open Domain Generalization},
author = {Masashi Noguchi and Shinichi Shirakawa},
journal= {arXiv preprint arXiv:2303.18031},
year = {2023}
}
备注
18 pages, 5 figures