通过自由能最小化进行距离度量学习
机器学习
2021-06-11 v1
摘要
在过去的几十年中，距离度量学习因解决机器学习和模式识别问题而备受关注。在本工作中，我们提出一种基于统计物理概念的简单方法，以学习给定问题的最优距离度量。我们将该任务表述为一个典型的统计物理问题：模式间的距离表示物理系统的组分，目标函数对应于能量。然后我们将该问题表达为复杂系统自由能的最小化，这等价于距离度量学习。正如物理中许多问题一样，我们提出一种基于 Metropolis Monte Carlo 的方法来寻找最佳距离度量。这提供了一种自然的距离度量学习方式，其中学习过程可直观地视为拉伸和旋转度量空间直至满足某种启发式条件。我们提出的方法可处理多种约束，包括那些具有伪局部极小值的约束。该方法与来自邻域成分分析（NCA）的随机最近邻配合得令人惊讶地好。在人工和真实世界数据集上的实验结果显示，对于最近邻分类，其相对于多种最先进的距离度量学习方法具有明显优势。
引用
@article{arxiv.2106.05495,
title = {Distance Metric Learning through Minimization of the Free Energy},
author = {Dusan Stosic and Darko Stosic and Teresa B. Ludermir and Borko Stosic},
journal= {arXiv preprint arXiv:2106.05495},
year = {2021}
}