用于分布外泛化的不变元学习
机器学习
2023-02-23 v2 计算机视觉与模式识别
摘要
现代深度学习技术在许多领域展现了出色的能力,但依赖于大量训练数据。基于优化的元学习在多种任务上训练模型,使其仅使用少量训练样本即可解决新的学习任务。然而,这些方法假设训练与测试数据独立同分布。为克服此限制,本文提出用于分布外任务的不变元学习。具体而言,不变元学习寻找不变的优化元初始化,并通过正则化惩罚快速适应分布外任务。大量实验证明了我们提出的不变元学习在分布外少样本任务上的有效性。
引用
@article{arxiv.2301.11779,
title = {Invariant Meta Learning for Out-of-Distribution Generalization},
author = {Penghao Jiang and Ke Xin and Zifeng Wang and Chunxi Li},
journal= {arXiv preprint arXiv:2301.11779},
year = {2023}
}
备注
IEEE Conference on Computer Vision and Pattern Recognition 2022 The Ninth Workshop on Fine-Grained Visual Categorization