中文

带近邻项的可扩展 Peaceman-Rachford 分裂方法

机器学习 2018-02-13 v2 机器学习

摘要

随着 Peaceman-Rachford 分裂方法(PRSM)的发展,许多基于它的批量算法已被深入研究。但几乎尚无算法关注 PRSM 随机版本的性能。在本文中,我们提出一种基于 PRSM 的新随机算法,证明其遍历意义下的收敛速率,并在人工与真实数据上测试其性能。我们表明所提算法 Stochastic Scalable PRSM(SS-PRSM)具有 O(1/K)O(1/K) 收敛速率,这与基于 ADMM 的最新随机算法相同,但快于一般的随机 ADMM(其为 O(1/K)O(1/\sqrt{K}))。我们的算法还具有广泛的灵活性,优于许多源自 ADMM 的 state-of-the-art 随机算法,并在大规模分裂优化问题中具有低内存开销。

关键词

引用

@article{arxiv.1711.04955,
  title  = {Scalable Peaceman-Rachford Splitting Method with Proximal Terms},
  author = {Sen Na and Mingyuan Ma and Mladen Kolar},
  journal= {arXiv preprint arXiv:1711.04955},
  year   = {2018}
}