面向少域泛化的元自适应任务采样
机器学习
2023-05-26 v1 人工智能
计算机视觉与模式识别
摘要
为确保分布外（OOD）泛化性能，传统域泛化（DG）方法借助在具有不同底层分布的多个源数据上训练。那些 DG 方法的成功很大程度上依赖于存在多样化的训练分布。然而，由于高成本、隐私问题或数据稀缺，通常需耗费巨大精力才能获得足够的异构数据。因此一个有趣却鲜有研究的问题浮现：当感知到的异质性受限时，如何提升 OOD 泛化性能。在本文中，我们实例化了称为少域泛化（FDG）的新框架，旨在从极少域的新颖任务中，利用从基任务上先前学习经验所获知识，学习可泛化模型。此外，我们提出元自适应任务采样（MATS）过程，依据与新颖任务的语义及域偏移相似性来区分基任务。经验上，我们表明新引入的 FDG 框架能大幅提升新颖任务上的 OOD 泛化性能，且进一步将 MATS 与情景训练结合可在 PACS 和 DomainNet 等广泛使用的基准上优于若干最先进 DG 基线。
引用
@article{arxiv.2305.15644,
title = {Meta Adaptive Task Sampling for Few-Domain Generalization},
author = {Zheyan Shen and Han Yu and Peng Cui and Jiashuo Liu and Xingxuan Zhang and Linjun Zhou and Furui Liu},
journal= {arXiv preprint arXiv:2305.15644},
year = {2023}
}