动态 Sasvi:范数正则化最小二乘的强安全筛选
机器学习
2022-04-29 v1 机器学习
摘要
近来引入的一种用于稀疏优化问题的技术称为“安全筛选”(safe screening),它使我们能在优化的早期阶段识别无关变量。本文中,我们首先基于 Fenchel-Rockafellar 对偶性提出一个灵活的安全筛选框架,然后由该框架导出针对范数正则化最小二乘的强安全筛选规则。我们将所提出的范数正则化最小二乘筛选规则称为“动态 Sasvi”(dynamic Sasvi),因为它可解释为 Sasvi 的推广。与原始 Sasvi 不同,它不需要更强制正则化问题的精确解;因此它在实践中可安全使用。我们从理论和实验上表明,与其它筛选规则相比,我们的筛选规则能剔除更多特征并提升求解器的速度。
引用
@article{arxiv.2102.04108,
title = {Dynamic Sasvi: Strong Safe Screening for Norm-Regularized Least Squares},
author = {Hiroaki Yamada and Makoto Yamada},
journal= {arXiv preprint arXiv:2102.04108},
year = {2022}
}