稀疏在线相对相似性学习
机器学习
2021-04-16 v1 人工智能
摘要
对于许多数据挖掘与机器学习任务，相似性度量的质量是其性能的关键。为从数据集中自动找到良好的相似性度量，度量学习与相似性学习被提出并广泛研究。度量学习基于半正定（PSD）矩阵学习 Mahalanobis 距离以度量对象间距离，而相似性学习旨在直接学习无 PSD 约束的相似性函数，因而更具吸引力。现有相似性学习算法多为在线相似性学习，因为在线学习比离线学习更具可扩展性。然而，多数现有在线相似性学习算法学习含 d^2 个参数的满矩阵，其中 d 为样本维度。由于高内存与计算复杂度，这对高维任务显然低效。为解决此问题，我们引入若干稀疏在线相对相似性（SORS）学习算法，其在学习过程中学习稀疏模型，从而显著降低内存与计算代价。我们从理论上分析所提算法，并在若干真实高维数据集上评测。令人鼓舞的实证结果展示了我们的方法在效率与效果上的优势。
引用
@article{arxiv.2104.07501,
title = {Sparse online relative similarity learning},
author = {Dezhong Yao and Peilin Zhao and Chen Yu and Hai Jin and Bin Li},
journal= {arXiv preprint arXiv:2104.07501},
year = {2021}
}