基于重缩放铰链损失的低秩鲁棒在线距离/相似度学习
机器学习
2020-10-13 v2 计算机视觉与模式识别
机器学习
摘要
度量学习的一个重要挑战是输入数据规模和维度的可扩展性。在线度量学习算法被提出以应对这一挑战。现有方法通常基于（被动攻击）PA 方法。因此，它们能以自适应学习率快速处理大量数据。然而，这些算法基于铰链损失，因而对离群点和标签噪声不具鲁棒性。此外，现有在线方法通常假设训练三元组或成对约束事先存在。然而，现实应用中的许多数据集以输入数据及其关联标签的形式出现。我们通过采用鲁棒的重缩放铰链损失函数构建在线距离-相似度学习问题来应对这些挑战。所提模型具有相当的通用性，可应用于任何基于 PA 的在线距离-相似度算法。此外，我们开发了一种高效的鲁棒单次三元组构造算法。最后，为在高维 DML 环境中提供可扩展性，给出了所提方法的低秩版本，其不仅显著降低计算成本，还保持了所学度量的预测性能。同时，它为我们的方法在深度距离-相似度学习中的直接扩展提供了可能。我们在多个应用的数据集上进行了若干实验。结果证实，在存在标签噪声和离群点的情况下，所提方法以较大优势显著优于最先进的在线 DML 方法。
引用
@article{arxiv.2010.03268,
title = {Low-Rank Robust Online Distance/Similarity Learning based on the Rescaled Hinge Loss},
author = {Davood Zabihzadeh and Amar Tuama and Ali Karami-Mollaee},
journal= {arXiv preprint arXiv:2010.03268},
year = {2020}
}
备注
An Online Distance-Similarity learning approach in noisy environment