非凸问题何时不可怕？
最优化与控制
2016-04-26 v2 信息论
math.IT
机器学习
摘要
在本短文中，我们关注满足以下条件的光滑非凸优化问题：(1) 所有局部极小点也是全局极小点；(2) 在任何鞍点或局部极大点附近，目标函数具有负方向曲率。已知具体应用如字典学习、广义相位恢复和正交张量分解会产生此类结构。我们描述了一种二阶信赖域算法，该算法可证明能在无需特殊初始化的情况下高效收敛到全局极小点。最后我们强调了该方向上的替代方案与开放问题。
引用
@article{arxiv.1510.06096,
title = {When Are Nonconvex Problems Not Scary?},
author = {Ju Sun and Qing Qu and John Wright},
journal= {arXiv preprint arXiv:1510.06096},
year = {2016}
}
备注
6 pages, 3 figures. New examples on phase synchronization and community detection added; emphasis on all local minimizers being global added; exposition is polished. This is a concise expository article that avoids much technical rigor. We will make a separate submission with full technical details in future