用于嵌入空间可靠几何分析的校准相似度
机器学习
2026-01-26 v1
摘要
尽管预训练嵌入空间中的原始余弦相似度与人类判断表现出强秩相关性，但各向异性会导致绝对值的系统性校准偏差：无论实际语义相关性如何，分数都集中在狭窄的高相似度带中，限制了其作为定量度量的可解释性。先前的工作通过修改嵌入空间（白化、对比微调）来解决此问题，但此类变换会改变几何结构，并需要重新计算所有嵌入。利用基于人类相似度判断训练的保序回归，我们构建了一个单调变换，该变换在保持秩相关性和局部稳定性的同时，实现了近乎完美的校准（在七种扰动类型上达到98%）。我们的贡献并非取代余弦相似度，而是通过单调校准恢复其绝对值的可解释性，同时不改变其排序属性。我们将保序校准描述为一种保序重参数化，并证明所有基于顺序的构造（角度排序、最近邻、阈值图和基于分位数的决策）在此变换下都是不变的。
引用
@article{arxiv.2601.16907,
title = {Calibrated Similarity for Reliable Geometric Analysis of Embedding Spaces},
author = {Nicolas Tacheny},
journal= {arXiv preprint arXiv:2601.16907},
year = {2026}
}
备注
arXiv admin note: substantial text overlap with arXiv:2512.10350