一步计算的KNN分类

KNN分类是一种即兴学习模式，仅在预测测试数据时才执行，需设定合适的K值并从整个训练样本空间中搜索K个最近邻，这被称为KNN分类的惰性部分。由于对K个最近邻的完全搜索，该惰性部分一直是应用KNN分类的瓶颈问题。本文提出一种一步计算来替代KNN分类的惰性部分。该一步计算实际上将惰性部分转化为如下的矩阵计算。给定测试数据，首先用最小二乘损失函数对测试数据拟合训练样本。然后，根据所有训练样本对测试数据的影响对其进行加权，生成关系矩阵。最后，采用组套索(group lasso)对关系矩阵进行稀疏学习。如此，设定K值与搜索K个最近邻均被整合为统一计算。此外，为提高一步KNN分类性能，提出了一种新的分类规则。所提方法经实验评估，表明一步KNN分类高效且有前景。