用于深度度量学习的排序列表损失

深度度量学习（DML）的目标是学习能够捕获数据点之间语义相似性与不相似性信息的嵌入。DML 中使用的现有成对或三元组损失函数已知会因随着模型改进而出现大量平凡对或三元组而收敛缓慢。为了改善这一点，最近提出了基于排序的结构化损失，以纳入多个样本并利用它们之间的结构化信息。它们收敛更快并取得了 SOTA 性能。在本工作中，我们揭示了现有基于排序的结构化损失的两个局限性，并提出了一种新颖的排序列表损失来解决这两个问题。首先，给定一个查询，只有一小部分数据点被纳入以构建相似性结构。因此，一些有用的样本被忽略，且该结构的信息量较少。为了解决这个问题，我们提出通过利用图库中的所有实例来构建基于集合的相似性结构。该学习设置可解释为 few-shot retrieval：给定一个 mini-batch，每个样本迭代地用作查询，其余样本组成要搜索的图库，即 few-shot 设置中的支持集。其余样本被划分为正样本集和负样本集。对于每个 mini-batch，排序列表损失的学习目标是使查询与正样本集的距离比与负样本集的距离近一个边界。其次，先前的方法旨在将正对在嵌入空间中尽可能拉近。结果，类内数据分布趋于被极度压缩。相反，我们提出为每个类别学习一个超球面，以在其内部保留有用的相似性结构，这起到了正则化的作用。大量实验通过与 SOTA 方法比较证明了我们提出的方法的优越性。