中文

基于Kronecker积分解的矩阵值数据回归

机器学习 2024-05-01 v1 机器学习

摘要

我们研究高维情形下的矩阵变量回归问题 Yi=kβ1kXiβ2k+EiY_i = \sum_{k} \beta_{1k} X_i \beta_{2k}^{\top} + E_i,其中 i=1,2,ni=1,2\dots,n,响应变量 YiY_ip1×p2p_{1}\times p_{2} 矩阵,其维度超过样本量 nn 和预测变量 XiX_i 的维度 q1×q2q_{1}\times q_{2},即 q1,q2np1,p2q_{1},q_{2} \ll n \ll p_{1},p_{2}。我们提出一种名为KRO-PRO-FAC的估计算法,用于估计参数 {β1k}p1×q1\{\beta_{1k}\} \subset \Re^{p_1 \times q_1}{β2k}p2×q2\{\beta_{2k}\} \subset \Re^{p_2 \times q_2},该算法利用Van Loan和Pitsianis (1993)的Kronecker积分解和重排操作。KRO-PRO-FAC算法计算高效,因为它不需要估计 {Yi}\{Y_i\} 元素之间的协方差。我们建立了 β^1kβ1k\hat{\beta}_{1k} -\beta_{1k}β^2kβ2k\hat{\beta}_{2k} - \beta_{2k} 在谱范数下的扰动界,适用于 EiE_i 的行或列为独立次高斯随机向量的情形。在模拟和真实数据上的数值研究表明,与现有其他方法相比,我们的方法在估计误差和预测精度方面均具有竞争力。

关键词

引用

@article{arxiv.2404.19220,
  title  = {Regression for matrix-valued data via Kronecker products factorization},
  author = {Yin-Jen Chen and Minh Tang},
  journal= {arXiv preprint arXiv:2404.19220},
  year   = {2024}
}