通过双稀疏约束优化提升无监督特征选择

无监督特征选择（UFS）在机器学习和模式识别中广泛应用。然而，大多数现有方法仅考虑单一稀疏性，难以从原始高维特征集中选取有价值且具辨识度的特征子集。本文提出一种新的UFS方法，称为DSCOFS，通过将双稀疏约束优化嵌入经典主成分分析（PCA）框架。双稀疏指同时使用$\ell_{2,0}$-范数和$\ell_0$-范数对变量施加稀疏约束，通过添加不同类型的稀疏性来提高识别差异特征的准确性。核心在于，$\ell_{2,0}$-范数可以消除不相关和冗余的特征，而$\ell_0$-范数则可以过滤掉不规则的噪声特征，从而补充$\ell_{2,0}$-范数以提高辨识度。我们提出了一种有效的proximal交替最小化方法来求解 resulting 非凸非光滑模型。理论上，我们严格证明了本方法生成的序列在全局收敛于平稳点。数值实验在三个合成数据集和八个真实数据集上表明，所提方法在有效性、稳定性和收敛性方面均表现出佳绩。特别地，与基于状态-of-the-art方法相比，平均聚类准确率（ACC）和归一化互信息（NMI）分别提高了至少3.34%和3.02%。更重要的是，两个常用统计检验和一种新的特征相似度度量验证了双稀疏的优势。所有结果表明，所提出的DSCOFS为特征选择提供了新的视角。