三元组、终端与 Top-k 最近邻对比嵌入的维度-精度权衡
数据结构与算法
2024-01-01 v2
摘要
度量嵌入传统上研究如何将 个项映射到目标度量空间,使得距离长度不被严重扭曲;但如果我们只关心保持距离的相对顺序(而不是其长度)呢?在本文中,我们的动机源于以下基本问题:给定形如“项 比项 更接近项 ”的三元组比较,我们能否找到尊重这些距离比较的 个项的低维欧几里得表示?这种保序嵌入在重要应用中自然出现,并自 20 世纪 50 年代以来以序数或非度量嵌入的名义被研究。我们的主要结果是:1. 三元组维度的近紧界:我们引入了数据集三元组维度的自然概念,并令人惊讶地表明,为了使序数嵌入保持三元组,其维度在最坏情况下需要增长 。这是最优的(相差常数),因为 维总是足够的。2. 维度与(序数)松弛的权衡:然后我们放宽每个三元组都应被精确保持的要求,并给出了距离相对顺序被嵌入反转的最大比率的几乎紧下界;该比率在文献中被称为(序数)松弛,并作为(度量)扭曲的对应物。3. 终端和 Top--NNs 嵌入的新界:超越三元组,我们接着研究了两个动机明确的场景,在这些场景中我们关心保持特定的距离集合(不一定是三元组)。第一个场景是终端序数嵌入,第二个场景是 Top--NNs 序数嵌入。据我们所知,这些是关于保三元组序数嵌入的一些首批权衡,也是对终端和 Top--NNs 序数嵌入的首次研究。
引用
@article{arxiv.2312.13490,
title = {Dimension-Accuracy Tradeoffs in Contrastive Embeddings for Triplets, Terminals & Top-k Nearest Neighbors},
author = {Vaggos Chatziafratis and Piotr Indyk},
journal= {arXiv preprint arXiv:2312.13490},
year = {2024}
}
备注
Abstract shortened for arxiv