面向大数据的可扩展准确在线特征选择
机器学习
2016-07-29 v4
摘要
特征选择在许多大数据应用中很重要。两大挑战与大数据密切相关。首先，在许多大数据应用中，维度极高，达数百万并持续增长。其次，大数据应用要求以在线方式高度可扩展的特征选择算法，使得每个特征可按顺序扫描处理。我们在本文中提出 SAOLA，一种可扩展且准确的在线方法(Scalable and Accurate OnLine Approach)用于特征选择。基于对特征间成对相关性界限的理论分析，SAOLA 采用新颖的成对比较技术并随时间以在线方式维护一个简约模型。此外，为处理按组到达的即将到来的特征，我们扩展了 SAOLA 算法，然后提出一种新的 group-SAOLA 算法用于在线组特征选择。group-SAOLA 算法能在线维护一组特征组，这些特征组同时在组和个体特征级别上稀疏。使用一系列基准真实数据集的实证研究表明，我们的两种算法 SAOLA 和 group-SAOLA 在极高维数据集上可扩展，并且优于 SOTA 特征选择方法。
引用
@article{arxiv.1511.09263,
title = {Scalable and Accurate Online Feature Selection for Big Data},
author = {Kui Yu and Xindong Wu and Wei Ding and Jian Pei},
journal= {arXiv preprint arXiv:1511.09263},
year = {2016}
}
备注
This paper has been accepted by the journal of ACM Transactions on Knowledge Discovery from Data (TKDD) and will be available soon