用于正则化知识迁移的元函数学习框架

Pan Li; Yanwei Fu; Shaogang Gong

用于正则化知识迁移的元函数学习框架

机器学习 2022-03-29 v1 计算机视觉与模式识别

作者: Pan Li , Yanwei Fu , Shaogang Gong

摘要

机器学习分类器的能力在很大程度上依赖于可用训练数据的规模，并在数据稀缺的学习任务中受限于模型过拟合。为解决此问题，本文提出一种新颖的元函数学习(MFL)框架，从数据丰富任务中元学习可泛化函数模型，同时正则化向数据稀缺任务的知识迁移。MFL计算关于函数正则化的元知识，其可泛化至不同学习任务，借此在有限标注数据上的函数训练可促使学习到更具判别性的函数。基于该框架，我们构建了MFL的三种变体：带原型的MFL(MFL-P)通过辅助原型学习函数；组合MFL(ComMFL)从函数空间与表示空间同时迁移知识；带迭代更新的MFL(MFL-IU)通过逐步学习知识迁移中的函数正则化来改进MFL的知识迁移正则化。此外，我们将这些变体从二分类器到多分类器的知识迁移正则化进行了推广。在少样本学习(FSL)与跨域少样本学习(CD-FSL)两种场景上的大量实验表明，用于知识迁移正则化的元函数学习可改进FSL分类器。

关键词

元学习函数学习知识迁移正则化少样本学习分类器跨域

引用

@article{arxiv.2203.14840,
  title  = {A Framework of Meta Functional Learning for Regularising Knowledge Transfer},
  author = {Pan Li and Yanwei Fu and Shaogang Gong},
  journal= {arXiv preprint arXiv:2203.14840},
  year   = {2022}
}

备注

13 pages

用于正则化知识迁移的元函数学习框架

摘要

关键词

引用

备注

相关论文