改进的双层模型：具有理论保证的快速最优算法
机器学习
2020-09-03 v1 人工智能
机器学习
摘要
由于许多机器学习问题的层次结构，双层规划近来变得愈发重要，然而内外问题之间复杂的相关性使其极难求解。尽管已提出若干基于自动微分的直观算法并在一些应用中取得成功，但寻找双层模型的最优表述并未受到太多关注。是否存在更好的表述仍是一个开放问题。本文提出一种改进的双层模型，与当前表述相比收敛更快且更优。我们提供了理论保证，并在两项任务上给出评估结果：数据超清洗与超表示学习。实证结果表明，我们的模型以很大优势优于当前双层模型。\emph{这是与 \citet{liu2020generic} 的同期工作，我们投稿至 ICML 2020。现置于 arxiv 以备记录。}
引用
@article{arxiv.2009.00690,
title = {Improved Bilevel Model: Fast and Optimal Algorithm with Theoretical Guarantee},
author = {Junyi Li and Bin Gu and Heng Huang},
journal= {arXiv preprint arXiv:2009.00690},
year = {2020}
}
备注
submitted to ICML2020