稀疏广义相关分析与阈值化梯度下降
机器学习
2023-02-07 v2 机器学习
摘要
广义相关分析(GCA)旨在揭示多个数据集之间的线性关系。它推广了为两个数据集设计的典型相关分析。我们研究稀疏 GCA,其中数据中可能存在多个广义相关元组,且载荷矩阵具有少量非零行。它将相关矩阵的稀疏 CCA 和稀疏 PCA 作为特例包含在内。我们首先通过仔细选择归一化约束,在总体和样本层面将稀疏 GCA 表述为广义特征值问题。基于样本优化问题的拉格朗日形式,我们提出一种阈值化梯度下降算法,用于在高维中估计 GCA 载荷向量和矩阵。我们推导了该算法在适当初始化下生成的估计量的紧估计误差界。我们还在若干合成数据集上展示了该算法的效能。
引用
@article{arxiv.2107.00371,
title = {Sparse GCA and Thresholded Gradient Descent},
author = {Sheng Gao and Zongming Ma},
journal= {arXiv preprint arXiv:2107.00371},
year = {2023}
}