面向基因组数据集的高维特征选择

机器学习和模式识别中的一个核心问题是识别最重要特征的过程。在本文中，我们提供一种新的特征选择方法（DRPT），其首先去除不相关特征，然后检测剩余特征之间的相关性。令$D=[A\mid \mathbf{b}]$为一个数据集，其中$\mathbf{b}$为类标签，$A$为列对应特征的矩阵。我们使用最小二乘法和$A$的伪逆求解$A\mathbf{x} = \mathbf{b}$。$\mathbf{x}$的每个分量可视为对应列（特征）的分配权重。我们基于$\mathbf{x}$的局部极大值定义阈值，并去除权重小于该阈值的那些特征。为检测我们仍称为$A$的约简矩阵中的相关性，我们考虑$A$的一个扰动$\tilde A$。我们证明相关性编码于$\Delta\mathbf{x}=\mid \mathbf{x} -\tilde{\mathbf{x}}\mid$中，其中$\tilde{\mathbf{x}}$是$\tilde A\tilde{\mathbf{x}}=\mathbf{b}$的最小二乘解。我们首先基于$\Delta\mathbf{x}$聚类特征，然后利用特征的熵进行聚类。最后，根据权重和熵从每个子簇中选出一个特征。DRPT的有效性已通过在10个基因数据集（特征数从9,117到267,604不等）上与七种最先进特征选择方法的一系列比较得到验证。结果表明，总体而言，DRPT在多个方面相较于每种特征选择算法均具有良好性能。