中文

强凸问题的 A-HPE 与大步长 A-HPE 算法变体及其在加速高阶张量方法中的应用

最优化与控制 2021-10-05 v2

摘要

为求解强凸优化问题,我们提出并研究了 Monteiro 与 Svaiter 的 A-HPE 与大步长 A-HPE 算法变体的全局收敛性。我们证明了所提 A-HPE 变体的线性收敛率,以及大步长 A-HPE 方法变体的超线性 O(kk(p1p+1))\mathcal{O}\left(k^{\,-k\left(\frac{p-1}{p+1}\right)}\right) 全局收敛率。参数 p2p\geq 2 出现在新大步长 A-HPE 算法的高阶大步长条件中。我们将结果应用于高阶张量方法,获得了一种用于(光滑)强凸优化的新不精确(相对误差)张量方法,其迭代复杂度为 O(kk(p1p+1))\mathcal{O}\left(k^{\,-k\left(\frac{p-1}{p+1}\right)}\right)。特别地,当 p=2p=2 时,我们得到一种具有快速全局 O(kk/3)\mathcal{O}\left(k^{\,-k/3}\right) 收敛率的不精确牛顿-邻近算法。

关键词

引用

@article{arxiv.2102.02045,
  title  = {Variants of the A-HPE and large-step A-HPE algorithms for strongly convex problems with applications to accelerated high-order tensor methods},
  author = {M. Marques Alves},
  journal= {arXiv preprint arXiv:2102.02045},
  year   = {2021}
}

备注

minor corrections; to appear in optimization methods and software