用于最近邻分类的度量嵌入
机器学习
2007-06-26 v1
摘要
距离度量在最近邻 (NN) 分类中起着重要作用。通常假设使用欧几里得距离度量,或优化马氏距离度量以提高 NN 性能。本文研究了将任意度量空间嵌入到欧几里得空间的问题,旨在提高 NN 分类器的准确性。我们提出了一种解决方案,利用再生核希尔伯特空间中的正则化框架,并证明了针对 NN 分类的表示定理。随后通过求解一个半定规划问题来确定嵌入函数,该问题与软间隔线性二分类支持向量机分类器有着有趣的联系。尽管本文的主要重点是提出一个用于 NN 设置下度量嵌入的通用理论框架,但我们在一些基准数据集上展示了所提方法的性能,结果表明其在留一法误差和泛化误差方面优于马氏度量学习算法。
引用
@article{arxiv.0706.3499,
title = {Metric Embedding for Nearest Neighbor Classification},
author = {Bharath K. Sriperumbudur and Gert R. G. Lanckriet},
journal= {arXiv preprint arXiv:0706.3499},
year = {2007}
}
评论
9 pages, 1 table