基于正交回归的嵌入式多标签特征选择
计算机视觉与模式识别
2024-03-04 v1 人工智能
摘要
在过去十年中，嵌入式多标签特征选择方法通过将特征子集搜索纳入模型优化中，在准确评估多标签分类任务中特征重要性方面引起了广泛关注。然而，基于最小二乘回归的最先进嵌入式多标签特征选择算法通常无法保留多标签数据中足够的判别信息。为应对上述挑战，本文提出了一种名为正交回归中的全局冗余与相关性优化（GRROOR）的新型嵌入式多标签特征选择方法，以促进多标签特征选择。该方法采用带有特征加权的正交回归，以在特征学习过程中保留与多标签数据局部标签相关性相关的充分统计和结构信息。此外，正交回归模型中同时考虑了全局特征冗余和全局标签相关性信息，这有助于在多标签数据中搜索具有判别力且非冗余的特征子集。GRROOR 的代价函数是 Stiefel 流形上的非平衡正交 Procrustes 问题。我们利用一种简单而有效的方案获得了最优解。在十个多标签数据集上的大量实验结果证明了 GRROOR 的有效性。
引用
@article{arxiv.2403.00307,
title = {Embedded Multi-label Feature Selection via Orthogonal Regression},
author = {Xueyuan Xu and Fulin Wei and Tianyuan Jia and Li Zhuo and Feiping Nie and Xia Wu},
journal= {arXiv preprint arXiv:2403.00307},
year = {2024}
}