关于有监督 Mahalanobis 距离学习器的核化

本文关注对现有有监督 Mahalanobis 距离学习器进行核化的问题。本文包含以下内容。首先，将三种没有核版本的流行学习器，即“邻域成分分析”、“大间隔最近邻”和“判别邻域嵌入”进行核化，以提高其分类性能。其次，提出了一种称为“KPCA 技巧”的替代核化框架。在新框架中实现学习器比标准框架具有多项优势，例如，核实现不需要数学公式和重新编程，该框架避免了奇异性等棘手问题。第三，虽然在我们相关的先前研究中，表示定理的成立仅仅是假设，但在这里，我们对表示定理进行了正式证明。这些证明在 Mahalanobis 距离学习的背景下验证了核技巧和 KPCA 技巧。第四，与以往总是使用蛮力方法选择核的工作不同，我们研究了两种可以高效地用于为给定数据集构建合适核的方法。最后，给出了在各种真实世界数据集上的数值结果。