中文

面向Group OWL模型的安全筛选规则

机器学习 2025-04-09 v2 机器学习

摘要

基于Group有序加权 L1L_{1} 范数(Group OWL)的正则化模型已成为处理高维稀疏多任务学习中相关特征的有用方法。由于Group OWL模型在高维情境下通常面临巨大的计算成本和内存使用问题,本文首次提出了针对Group OWL模型的安全筛选规则,通过有效处理结构化非可分离的惩罚项,快速识别在所有任务中系数为零的非活跃特征。因此,通过在训练过程中删除非活跃特征,可实现显著的计算效率提升和内存节省。更重要的是,所提出的筛选规则可以直接集成到现有的求解器中,无论是批量模式还是随机模式。在理论上,我们证明了我们的筛选规则是安全的,并且可以安全地应用于现有的迭代优化算法。我们的实验结果表明,所提出的筛选规则能够有效识别非活跃特征,并在不损失准确性的前提下实现显著的计算加速。

关键词

引用

@article{arxiv.2504.03152,
  title  = {Safe Screening Rules for Group OWL Models},
  author = {Runxue Bao and Quanchao Lu and Yanfu Zhang},
  journal= {arXiv preprint arXiv:2504.03152},
  year   = {2025}
}

备注

8 pages