带外推的块交替Bregman优界最小化
最优化与控制
2022-04-27 v1 数值分析
信号处理
数值分析
机器学习
摘要
本文考虑一类非光滑非凸优化问题,其目标是块相对光滑函数与真值下半连续块可分函数之和。尽管针对块-光滑函数类的块邻近梯度(BPG)方法分析已成功推广至处理块相对光滑函数类的Bregman BPG方法,但加速的Bregman BPG方法十分匮乏且难以设计。受Nesterov型加速与优界最小化(majorization-minimization) scheme启发,我们提出了一种带外推的块交替Bregman优界最小化框架(BMME)。我们在温和假设下证明了BMME到一阶平稳点的序列收敛性,并在更强条件下研究其全局收敛性。我们在带惩罚的正交非负矩阵分解问题上说明了BMME的有效性。
引用
@article{arxiv.2107.04395,
title = {Block Alternating Bregman Majorization Minimization with Extrapolation},
author = {Le Thi Khanh Hien and Duy Nhat Phan and Nicolas Gillis and Masoud Ahookhosh and Panagiotis Patrinos},
journal= {arXiv preprint arXiv:2107.04395},
year = {2022}
}