多样化在线特征选择
机器学习
2019-04-26 v3 机器学习
摘要
在线特征选择近年来已成为一个活跃的研究领域。我们提出一种基于行列式点过程 (DPP) 的新型多样化在线特征选择方法。我们的模型旨在提供可组成于监督或无监督框架中的多样化特征。该框架旨在基于特征层面上产生的核来促进多样性,通过至多三个阶段:特征采样、局部准则和全局准则进行特征选择。在特征采样中,我们使用条件 DPP 对传入的特征流进行采样。局部准则用于评估和选择流式特征(即仅在其到达时),我们使用无监督尺度不变方法去除冗余特征,并可选地使用有监督方法引入标签信息以评估相关特征。最后,全局准则使用正则化方法选择全局最优特征子集。此三阶段过程持续进行,直到没有更多特征到达或满足某些预定义停止条件。我们通过实验证明,该方法产生了更好的紧凑性,可与其它最先进的在线特征选择方法相媲美,并在某些情况下优于它们。
引用
@article{arxiv.1806.04308,
title = {Diverse Online Feature Selection},
author = {Chapman Siu and Richard Yi Da Xu},
journal= {arXiv preprint arXiv:1806.04308},
year = {2019}
}