多目标元学习
机器学习
2021-02-16 v1 人工智能
摘要
具有多目标的元学习可表述为多目标双层优化问题（MOBLP），其中上层子问题是为元学习器求解若干可能冲突的目标。然而，现有研究要么采用低效的进化算法，要么将多目标线性组合为单目标问题并需调节组合权重。本文提出统一的基于梯度的多目标元学习（MOML）框架，并设计首个基于梯度的优化算法，通过分别使用梯度下降法和基于梯度的多目标优化方法交替求解下层与上层子问题来解决MOBLP。理论上，我们证明了所提基于梯度的优化算法的收敛性质。在实验上，我们展示了所提MOML框架在若干元学习问题中的有效性，包括少样本学习、神经架构搜索、域适应和多任务学习。
引用
@article{arxiv.2102.07121,
title = {Multi-Objective Meta Learning},
author = {Feiyang Ye and Baijiong Lin and Zhixiong Yue and Pengxin Guo and Qiao Xiao and Yu Zhang},
journal= {arXiv preprint arXiv:2102.07121},
year = {2021}
}