基于轨迹优化的元学习中的任务加权

开发不对训练任务子集产生偏置的元学习算法通常需要手工设计准则来加权任务，可能导致次优解。在本文中，我们引入一种用于元学习方法的新颖且完全自动化的任务加权算法。通过将同一小批量中任务的权重视为动作，将感兴趣的元参数视为系统状态，我们将任务加权元学习问题转化为轨迹优化，并采用迭代线性二次调节器来确定最优动作或任务权重。我们从理论上证明所提算法收敛到 $\epsilon_{0}$-驻点，并经验性地展示所提方法在两个少样本学习基准中优于常见的手工工程加权方法。