中文

利用结构交互弹性网识别最具信息量的特征

机器学习 2018-09-11 v1 机器学习

摘要

特征选择能够高效识别相对于训练中所用目标特征最具信息量的特征。然而,state-of-the-art 的基于向量的方法无法将特征样本间的关系纳入特征选择过程,从而导致显著的信息损失。为解决该问题,我们提出一种基于图的新型结构交互弹性网特征选择方法。具体而言,我们首先构建能够纳入样本间成对关系的特征图。在获得特征图后,我们提出一种新的信息论准则,用以度量不同成对特征组合相对于目标特征图表示的联合相关性。该度量被用于得到一个结构交互矩阵,其元素表示特征对之间所提信息论度量值。随后,我们通过结合结构交互矩阵与弹性网回归模型,为特征子集选择问题构建新的优化模型。这使我们能够 a) 保留原始向量空间的信息,b) 弥补因使用图表示所致的原始特征空间信息损失,以及 c) 促进稀疏解并鼓励选择相关特征。由于所提优化问题非凸,我们开发了高效的交替方向乘子法(ADMM)以求解最优解。在多个数据集上的广泛实验证明了所提方法的有效性。

关键词

引用

@article{arxiv.1809.02860,
  title  = {Identifying The Most Informative Features Using A Structurally Interacting Elastic Net},
  author = {Lixin Cui and Lu Bai and Zhihong Zhang and Yue Wang and Edwin R. Hancock},
  journal= {arXiv preprint arXiv:1809.02860},
  year   = {2018}
}

备注

Neurocomputing (Accept/In Press), ISSN: 0925-2312