基于梯度的拉普拉斯特征选择
机器学习
2014-04-14 v1
摘要
高维噪声数据的分析在各个研究领域都至关重要。特征选择技术旨在找到能够促进分类或模式检测的相关特征子集。传统的(有监督)特征选择方法利用标签信息来指导相关特征子集的识别。然而,在本文中,我们考虑无监督特征选择问题。在没有标签信息的情况下,由于真实世界数据的噪声性质会破坏数据的内在结构,因此识别一小部分相关特征尤其困难。我们的基于梯度的拉普拉斯特征选择(GLFS)通过最小化拉普拉斯正则化最小二乘回归模型的方差来选择重要特征。通过松弛,GLFS可以找到与拉普拉斯流形相关的稀疏特征子集。在模拟数据集、三个真实世界物体识别数据集和两个计算生物学数据集上的大量实验证明了我们的方法相对于多种最先进的无监督特征选择方法的强大性能和优越性。此外,我们表明,GLFS在有监督设置中选择更稀疏、更相关的特征子集,优于流行的弹性网络方法。
引用
@article{arxiv.1404.2948,
title = {Gradient-based Laplacian Feature Selection},
author = {Bo Wang and Anna Goldenberg},
journal= {arXiv preprint arXiv:1404.2948},
year = {2014}
}