基于集成与距离的无监督学习特征排序方法
机器学习
2020-11-25 v1
摘要
在这项工作中,我们提出了两组新颖的无监督特征排序与选择方法。第一组包含从预测聚类树的集成中计算得到的特征排序分数(Genie3 分数、RandomForest 分数)。第二种方法是 URelief,即 Relief 系列特征排序算法的无监督扩展。使用 26 个基准数据集和 5 个基线方法,我们表明由 extra trees 集成计算得到的 Genie3 分数和 URelief 方法均优于现有方法,并且就排名靠前特征的可预测能力而言,Genie3 总体表现最佳。此外,我们分析了所提方法的超参数对其性能的影响,并表明对于 Genie3 分数,最高质量由最高效的参数配置取得。最后,我们提出了一种发现排序中特征实际最相关位置的方法。
引用
@article{arxiv.2011.11679,
title = {Ensemble- and Distance-Based Feature Ranking for Unsupervised Learning},
author = {Matej Petković and Dragi Kocev and Blaž Škrlj and Sašo Džeroski},
journal= {arXiv preprint arXiv:2011.11679},
year = {2020}
}
备注
20 pages, 5 figures