SOFARI:基于高维流形的推断
统计方法学
2025-07-02 v2 统计理论
机器学习
统计理论
摘要
多任务学习是一种广泛使用的技术,用于利用来自各种任务的信息。最近,基于系数矩阵内稀疏奇异值分解(SVD)的稀疏正交因子回归(SOFAR)框架被引入用于可解释的多任务学习,能够在不同层中发现有意义的潜在特征-响应关联网络。然而,由于继承自稀疏SVD约束的正交性约束,对潜在因子矩阵进行精确推断一直具有挑战性。在本文中,我们提出一种称为基于高维流形的SOFAR推断(SOFARI)的新方法,该方法借鉴Neyman近正交推断,同时纳入由SVD约束施加的Stiefel流形结构。通过利用对实现推断至关重要的底层Stiefel流形结构,SOFARI为潜在左因子向量和奇异值提供了易于使用的偏差校正估计量,我们证明它们服从具有可估计方差的渐近零均值正态分布。我们引入两种SOFARI变体来处理强正交和弱正交潜在因子,其中后者涵盖更广泛的应用范围。我们通过模拟示例和经济预测中的真实数据应用说明了SOFARI的有效性并验证了我们的理论结果。
引用
@article{arxiv.2309.15032,
title = {SOFARI: High-Dimensional Manifold-Based Inference},
author = {Zemin Zheng and Xin Zhou and Yingying Fan and Jinchi Lv},
journal= {arXiv preprint arXiv:2309.15032},
year = {2025}
}
备注
208 pages, 2 figures, to appear in Journal of the American Statistical Association