求解 $l_0$-范数正则化最小二乘问题的同伦坐标下降优化方法
机器学习
2020-11-16 v1
摘要
本文提出一种同伦坐标下降(HCD)方法,将同伦技术与坐标下降方法的一种变体相结合,用于求解压缩感知中的 -范数正则化最小二乘(-LS)问题。与经典坐标下降算法不同,HCD 提供三种加速收敛策略:热启动初始化、活跃集更新以及活跃集初始化的强规则。活跃集通过强规则预选,然后更新活跃集的坐标而不变更非活跃集的坐标。同伦策略为一系列递减正则化因子值提供一组热启动初始解,确保同伦解路径上所有迭代均为稀疏。在模拟信号与自然信号上的计算实验证明了该算法在准确高效重构 -LS 问题稀疏解方面的有效性,无论观测是否含噪。
引用
@article{arxiv.2011.06841,
title = {A Homotopy Coordinate Descent Optimization Method for $l_0$-Norm Regularized Least Square Problem},
author = {Zhenzhen Sun and Yuanlong Yu},
journal= {arXiv preprint arXiv:2011.06841},
year = {2020}
}