基于 PPDNA 的自适应筛法：生成排他 Lasso 模型的解路径
最优化与控制
2020-09-21 v1
摘要
排他 lasso（亦称精英 lasso）正则化因其在结构化稀疏性上的优越性能而近年流行。其复杂性质给涉及此类正则化器的高维机器学习模型的计算带来困难。本文中，我们提出一种自适应筛（AS）策略，用于生成带排他 lasso 正则化器的机器学习模型的解路径，其中需求解一系列规模小得多的约化问题。为求解这些约化问题，我们提出一种基于近端点算法（PPDNA）的高效对偶牛顿法。作为重要组成部分，我们系统研究了加权排他 lasso 正则化器的近端映射及相应的广义 Jacobian。这些结果也使求解排他 lasso 模型的流行一阶算法变得实用。针对排他 lasso 模型的各种数值实验证明了 AS 策略生成解路径的有效性以及 PPDNA 的优越性能。
引用
@article{arxiv.2009.08719,
title = {Adaptive Sieving with PPDNA: Generating Solution Paths of Exclusive Lasso Models},
author = {Meixia Lin and Yancheng Yuan and Defeng Sun and Kim-Chuan Toh},
journal= {arXiv preprint arXiv:2009.08719},
year = {2020}
}