中文

学习以学习非凸分段 Lipschitz 函数

机器学习 2021-08-20 v1

摘要

我们分析了针对分段 Lipschitz 函数的学习算法的初始化与步长的元学习,这是一个在机器学习和算法中均有应用的非凸设定。从近期关于具有分散不连续性的损失上指数预测器(exponential forecaster)的悔界出发,我们将其推广为依赖于初始化的形式,并利用该结果提出一种实用的元学习过程,从多个在线学习任务中学习算法的初始化与步长。渐近地,我们保证跨任务的平均悔以任务相似度的自然概念来度量,该相似度衡量不同任务近最优区域之间的重叠程度。最后,我们在两个重要设定中实例化该方法及其保证:鲁棒元学习与多任务数据驱动算法设计。

关键词

引用

@article{arxiv.2108.08770,
  title  = {Learning-to-learn non-convex piecewise-Lipschitz functions},
  author = {Maria-Florina Balcan and Mikhail Khodak and Dravyansh Sharma and Ameet Talwalkar},
  journal= {arXiv preprint arXiv:2108.08770},
  year   = {2021}
}