度量感知主成分分析(MAPCA):面向尺度不变表示学习的统一框架
机器学习
2026-04-17 v1 机器学习
摘要
我们提出度量感知主成分分析(MAPCA),这是一种基于广义特征问题 max Tr(W^T Sigma W) 受制于 W^T M W = I 的尺度不变表示学习统一框架,其中 M 为对称正定度量矩阵。不同选择 M 决定了表示的几何结构。标准的 beta-family M(beta) = Sigma^beta()在标准主成分分析()与输出白化()之间提供连续的谱偏差控制,其条件数 随单调递减至各向同性。对角度量 M = D = diag(Sigma) 可恢复源于 Frisch(1928)对角回归的不变主成分分析(IPCA),作为更广框架的独立成员。我们证明尺度不变性当且仅当度量在缩放 C 下变为 M_tilde = CMC 才成立,IPCA 正好满足此条件而一般 beta-family 在中间值处不满足。除了经典解释外,MAPCA 提供了统一几何语言,整合若干自监督学习目标。Barlow Twins 与 ZCA 白化对应 (输出白化);VICReg 的方差项对应对角度量。关键发现是 W-MSE 虽被描述为基于白化的方法,实则对应 M = Sigma^{-1}(),完全超出谱压缩范围且与 Barlow Twins 在谱方向上相反。这一输入与输出白化的区别在损失函数层面难以察觉,唯有在 MAPCA 框架下才能精确刻画。
引用
@article{arxiv.2604.14249,
title = {Metric-Aware Principal Component Analysis (MAPCA):A Unified Framework for Scale-Invariant Representation Learning},
author = {Michael Leznik},
journal= {arXiv preprint arXiv:2604.14249},
year = {2026}
}
备注
12 pages , one figure