大规模融合Lasso的Split Bregman方法
统计计算
2010-06-29 v1 机器学习
最优化与控制
摘要
在许多实际应用中,回归或分类系数存在排序关系。融合Lasso通过范数正则化项显式地正则化相邻系数之间的差异,从而利用了这种排序关系。然而,由于正则化项的非可分性和非光滑性,求解融合Lasso问题在计算上要求很高。现有的求解器只能处理小规模或中等规模的问题,或者处理预测矩阵为单位矩阵这一融合Lasso问题的特例。在本文中,我们提出了一种基于Split Bregman方法的迭代算法,用于求解一类大规模融合Lasso问题,包括广义融合Lasso和融合Lasso支持向量分类器。我们使用增广拉格朗日方法推导了我们的算法,并证明了其收敛性质。我们在人工数据和实际应用(包括来自质谱分析的蛋白质组数据和来自阵列CGH的基因组数据)上测试了我们方法的性能。我们证明,我们的方法比现有求解器快很多倍,并且表明它对于大p、小n问题特别有效。
引用
@article{arxiv.1006.5086,
title = {Split Bregman method for large scale fused Lasso},
author = {Gui-Bo Ye and Xiaohui Xie},
journal= {arXiv preprint arXiv:1006.5086},
year = {2010}
}