关于拟牛顿前向--后向分裂:邻近演算与收敛性
最优化与控制
2018-11-27 v2
摘要
我们引入了一种由对角 秩- 对称正定矩阵诱导度量的拟牛顿前向--后向分裂算法(邻近拟牛顿方法)框架。此类特殊度量允许对邻近映射进行高效计算。该效率的关键在于新度量下的一般邻近演算。通过使用对偶性,推导了将秩- 修正度量下的邻近映射关联到原始度量的公式。我们还描述了对一大类函数的高效邻近计算实现;这些实现利用了偶问题的分段线性性质。然后,我们将这些结果应用于复合凸最小化问题的加速,从而得到优雅的拟牛顿方法,我们证明了它们的收敛性。该算法在若干数值例子上进行了测试,并与文献中一份详尽的替代方法列表进行了比较。我们所提出的具有规定度量的拟牛顿分裂算法优于最先进方法。该算法具有广泛应用,包括信号处理、稀疏恢复、机器学习和分类等。
引用
@article{arxiv.1801.08691,
title = {On Quasi-Newton Forward--Backward Splitting: Proximal Calculus and Convergence},
author = {Stephen Becker and Jalal Fadili and Peter Ochs},
journal= {arXiv preprint arXiv:1801.08691},
year = {2018}
}
备注
arXiv admin note: text overlap with arXiv:1206.1156