非光滑与非凸优化的松弛优超最小化
最优化与控制
2015-11-26 v1 机器学习
数值分析
摘要
我们提出了一种用于非光滑与非凸规划的新的优超最小化（MM）方法，其通用性足以涵盖现有的MM方法。除局部优超条件外，我们仅要求目标函数与其替代函数的方向导数之差在迭代次数趋于无穷时消失，这是一个非常弱的条件。因此，我们的方法可以使用直接逼近非光滑目标函数的替代函数。相比之下，所有现有的MM方法均通过逼近目标函数的光滑分量来构造替代函数。我们将松弛MM方法应用于具有不同正则化的鲁棒矩阵分解（RMF）问题，其中我们的局部优超算法展现出优于最先进RMF方法的优势。这是首个无需额外假设即可保证迭代的任何极限点均为驻点的RMF算法。
引用
@article{arxiv.1511.08062,
title = {Relaxed Majorization-Minimization for Non-smooth and Non-convex Optimization},
author = {Chen Xu and Zhouchen Lin and Zhenyu Zhao and Hongbin Zha},
journal= {arXiv preprint arXiv:1511.08062},
year = {2015}
}
备注
AAAI16