中文

基于多步马尔可夫转移概率的无监督特征选择

机器学习 2020-06-01 v1 机器学习

摘要

特征选择因其可解释性而成为一种被广泛用于选择特征子集的降维技术。目前已有许多方法被提出并取得了良好效果,这些方法主要关注相邻数据点之间的关系。但可能不相邻的数据对之间的潜在关联往往被忽略。与以往方法不同,我们提出了一种新颖且非常简单的无监督特征选择方法,命名为 MMFS(基于多步马尔可夫转移概率的特征选择)。其核心思想是利用多步马尔可夫转移概率来描述任意数据对之间的关系。分别采用正反两种视角的方法,以在特征选择后保持数据结构。从正面视角,使用在一定步数内可达到的最大转移概率来描述两点之间的关系,随后选择能够保持紧凑数据结构的特征。从负面视角,使用在一定步数内可达到的最小转移概率来描述两点之间的关系,相反地,选择最能维持松散数据结构的特征。这两种方式也可以结合使用,由此提出了三种算法。我们的主要贡献在于提出了一种利用多步转移概率刻画数据结构的新颖特征选择方法,以及从正反两方面保持数据结构而提出的三种算法。我们将该方法与 SOTA 方法在八个真实世界数据集上进行了性能比较,实验结果表明所提出的 MMFS 在无监督特征选择中是有效的。

关键词

引用

@article{arxiv.2005.14359,
  title  = {Unsupervised Feature Selection via Multi-step Markov Transition Probability},
  author = {Yan Min and Mao Ye and Liang Tian and Yulin Jian and Ce Zhu and Shangming Yang},
  journal= {arXiv preprint arXiv:2005.14359},
  year   = {2020}
}