基于重缩放铰链损失的鲁棒度量学习
机器学习
2021-08-13 v2 机器学习
摘要
距离/相似度学习是机器学习中的基本问题。例如,kNN 分类器或聚类方法基于距离/相似度度量。度量学习算法通过从数据中学习最优距离函数来增强这些方法的效率。大多数度量学习方法需要以样本对或三元组集合形式的训练信息。如今,这类训练信息常通过众包方法从互联网获取。因此,该信息可能包含标签噪声或离群点,导致学习到的度量性能不佳。甚至学习到的度量函数可能比欧氏距离等通用度量更差。为应对此挑战,本文提出一种基于重缩放铰链损失(Rescaled Hinge loss)的新鲁棒度量学习方法。该损失函数是流行的铰链损失的一般情形,最初在 (Xu et al. 2017) 中引入以开发一种新的鲁棒 SVM 算法。本文中,我们利用重缩放铰链损失函数表述度量学习问题,并随后基于 HQ(半二次,Half-Quadratic)开发一种高效算法来求解该问题。在多种真实与合成数据集上的实验结果证实,在存在标签噪声和离群点时,我们的新鲁棒算法显著优于最先进的度量学习方法。
引用
@article{arxiv.1904.11711,
title = {Robust Metric Learning based on the Rescaled Hinge Loss},
author = {Sumia Abdulhussien Razooqi Al-Obaidi and Davood Zabihzadeh and Hamideh Hajiabadi},
journal= {arXiv preprint arXiv:1904.11711},
year = {2021}
}