从相关分量的解释方差到无正交约束的 PCA
机器学习
2024-02-08 v1 机器学习
摘要
数据矩阵 A 的块主成分分析(Block PCA),其载荷 Z 是通过在单位范数正交载荷上最大化 AZ 2 来确定的,由于难以同时兼顾载荷的正交约束与不可微的 1 惩罚,因此很难用于通过 1 正则化设计稀疏 PCA。本文的目标是通过引入新的目标函数 expvar(Y) 来放宽对载荷的正交约束,该函数衡量由相关分量 Y = AZ 解释的数据矩阵 A 的方差部分。因此,我们首先针对 Zou 等人 [2006]、Shen 和 Huang [2008] 的两个现有定义以及四个新定义,对 expvar(Y) 的数学与数值性质进行了全面研究。然后我们表明,在这些解释方差中,仅有两个适合用作去除正交约束的矩阵 A 的 Block PCA 公式中的目标函数。
引用
@article{arxiv.2402.04692,
title = {From explained variance of correlated components to PCA without orthogonality constraints},
author = {Marie Chavent and Guy Chavent},
journal= {arXiv preprint arXiv:2402.04692},
year = {2024}
}