概率K近邻分类中邻居数的高效估计
机器学习
2013-05-07 v1 机器学习
摘要
概率K近邻（PKNN）分类通过显式建模每个特征向量分类中的不确定性，改进了原始K近邻（KNN）分类算法的性能。然而，KNN和PKNN共同面临的一个问题是选择最优邻居数。本文的贡献在于将的不确定性纳入决策过程，并利用贝叶斯模型平均来提供改进的分类。实际上，评估的不确定性问题可视为统计模型选择问题，这是统计学和机器学习领域最重要的技术问题之一。本文提出了一种新的函数逼近算法，无需依赖耗时的蒙特卡洛模拟即可重构模型（阶数）的密度。此外，该算法通过采用贝叶斯框架避免了交叉验证。该算法在多个真实实验数据集上取得了非常好的性能。
引用
@article{arxiv.1305.1002,
title = {Efficient Estimation of the number of neighbours in Probabilistic K Nearest Neighbour Classification},
author = {Ji Won Yoon and Nial Friel},
journal= {arXiv preprint arXiv:1305.1002},
year = {2013}
}