中文

高效元子空间优化

最优化与控制 2022-03-03 v2 人工智能 机器学习

摘要

子空间优化方法具有将大规模优化问题化简为一系列低维子空间优化问题的吸引人特性。然而,现有子空间优化框架采用固定的子空间更新策略,因而显得次优。本文中,我们针对大规模优化问题提出一种新的\emph{元子空间优化}(MSO)框架,其允许在每次优化迭代时确定子空间矩阵。为保持对优化问题维度的不变性,我们基于极低维子空间优化系数设计了一个\emph{高效}元优化器,导出一种可显著提升性能的规则基方法。最后,我们基于子空间优化动力学设计并分析了一种强化学习(RL)过程,其学到的策略优于现有子空间优化方法。

关键词

引用

@article{arxiv.2110.14920,
  title  = {Efficient Meta Subspace Optimization},
  author = {Yoni Choukroun and Michael Katz},
  journal= {arXiv preprint arXiv:2110.14920},
  year   = {2022}
}