RULLS:用于特征工程的局部线性子空间随机并集
机器学习
2018-04-27 v1 机器学习
摘要
特征工程在机器学习模型的成功中起着重要作用。训练模型的大部分精力都投入到数据准备和选择合适表示上。在本文中,我们提出了一种鲁棒的特征工程方法——局部线性子空间随机并集(RULLS)。我们以无监督方式生成稀疏、非负且旋转不变的特征。RULLS通过使用全局选定的地标描述每个点,从子空间的随机并集中聚合特征。这些地标作为选择子空间的锚点。我们的方法提供了一种方式来选择与这些选定地标周边邻域相关的特征。每个数据点到个最近地标的距被编码在特征矩阵中。最终的特征表示是所有选定子空间特征的并集。我们的算法在各种真实世界数据集上的聚类和原始数据分类以及存在噪声的情况等任务中展示了有效性。我们将我们的方法与现有的特征生成方法进行比较。结果显示我们的方法在分类和聚类任务上均具有高性能。
引用
@article{arxiv.1804.09770,
title = {RULLS: Randomized Union of Locally Linear Subspaces for Feature Engineering},
author = {Namita Lokare and Jorge Silva and Ilknur Kaynar Kabul},
journal= {arXiv preprint arXiv:1804.09770},
year = {2018}
}
备注
9 pages