用于离散优化的组合搜索与坐标下降混合方法
最优化与控制
2018-11-26 v5
摘要
离散优化是数学优化中的一个核心问题，具有广泛的应用，其中二元优化和稀疏优化是两个常见的应用。然而，这些问题是 NP 困难的，因此通常难以求解。诸如分支定界和穷举搜索之类的组合搜索方法能找到全局最优解，但仅限于小规模问题；而诸如坐标梯度下降之类的坐标下降方法效率高，但常常陷入较差的局部极小值。在本文中，我们考虑一种结合了组合搜索的有效性和坐标下降的效率的混合方法。具体而言，我们考虑采用随机策略与/或贪婪策略来选择坐标子集作为工作集，然后基于原始目标函数在工作集上执行全局组合搜索。此外，我们对所提方法提供了一些最优性分析和收敛分析。我们的方法能找到比现有方法更强的稳定点。最后，我们在一些稀疏优化和二元优化应用上展示了我们方法的有效性。结果表明，我们的方法在准确率方面实现了最先进的性能。例如，在稀疏优化中，我们的方法通常优于著名的正交匹配追踪方法。关键词：稀疏优化，二元优化，坐标下降，组合搜索，离散优化，收敛分析。
引用
@article{arxiv.1706.06493,
title = {A Hybrid Method of Combinatorial Search and Coordinate Descent for Discrete Optimization},
author = {Ganzhao Yuan and Li Shen and Wei-Shi Zheng},
journal= {arXiv preprint arXiv:1706.06493},
year = {2018}
}