高维数据中表示漂移的 Fubini Study 几何
机器学习
2026-02-04 v1 机器学习
摘要
高维表示漂移通常通过欧几里得距离或余弦距离进行量化,这些度量方式在比较时间、训练或预处理阶段的表示时假设固定坐标。虽然在许多情境下有效,但这些度量会将数据内在变化与由任意参数化引起的变异混合在一起。我们引入一种基于 Fubini Study 度量的项目几何视角,用于表示漂移,其识别仅因尺度变换(如全局缩放或符号翻转)而不同的表示。将这一框架应用于实际高维数据集,我们显式构造表示轨迹并跟踪其随时间的演化。沿着这些轨迹比较欧几里得、余弦和 Fubini Study 距离,揭示在表示携带真正项目歧义时,常规度量会系统性地高估变更。相比之下,Fubini Study 度量通过保持对引起漂移的尺度变换的不变性,隔离了内在演化。我们进一步表明,余弦漂移与 Fubini Study 漂移之间的差异定义了一个可计算且单调的量,直接捕捉由尺度自由度引起的表示 churn。这种分离为区分有意义的结构演化与参数化制造的伪影提供了诊断工具,无需引入模型特定的假设。总体而言,我们在高维系统中建立了用于评估表示稳定性的几何准则,阐明了角度距离的局限性。将表示动力学嵌入项目空间,将数据分析与既定几何程序联系起来,并产生可直接在实证工作流程中测试的可观测量。
关键词
引用
@article{arxiv.2602.02596,
title = {Fubini Study geometry of representation drift in high dimensional data},
author = {Arturo Tozzi},
journal= {arXiv preprint arXiv:2602.02596},
year = {2026}
}
备注
8 pages, 1 figure