中文

度量感知主成分分析(MAPCA):面向尺度不变表示学习的统一框架

机器学习 2026-04-17 v1 机器学习

摘要

我们提出度量感知主成分分析(MAPCA),这是一种基于广义特征问题 max Tr(W^T Sigma W) 受制于 W^T M W = I 的尺度不变表示学习统一框架,其中 M 为对称正定度量矩阵。不同选择 M 决定了表示的几何结构。标准的 beta-family M(beta) = Sigma^beta(β[0,1]\beta \in [0,1])在标准主成分分析(β=0\beta=0)与输出白化(β=1\beta=1)之间提供连续的谱偏差控制,其条件数 κ(β)=(λ1/λp)1β\kappa(\beta) = (\lambda_1/\lambda_p)^{1-\beta}β\beta单调递减至各向同性。对角度量 M = D = diag(Sigma) 可恢复源于 Frisch(1928)对角回归的不变主成分分析(IPCA),作为更广框架的独立成员。我们证明尺度不变性当且仅当度量在缩放 C 下变为 M_tilde = CMC 才成立,IPCA 正好满足此条件而一般 beta-family 在中间值处不满足。除了经典解释外,MAPCA 提供了统一几何语言,整合若干自监督学习目标。Barlow Twins 与 ZCA 白化对应 β=1\beta=1(输出白化);VICReg 的方差项对应对角度量。关键发现是 W-MSE 虽被描述为基于白化的方法,实则对应 M = Sigma^{-1}(β=1\beta = -1),完全超出谱压缩范围且与 Barlow Twins 在谱方向上相反。这一输入与输出白化的区别在损失函数层面难以察觉,唯有在 MAPCA 框架下才能精确刻画。

关键词

引用

@article{arxiv.2604.14249,
  title  = {Metric-Aware Principal Component Analysis (MAPCA):A Unified Framework for Scale-Invariant Representation Learning},
  author = {Michael Leznik},
  journal= {arXiv preprint arXiv:2604.14249},
  year   = {2026}
}

备注

12 pages , one figure