面向特征分布式数据的高维可扩展多元线性回归
机器学习
2024-03-12 v2 分布式、并行与集群计算
机器学习
摘要
特征分布式数据,指按特征划分并存储在多个计算节点上的数据,在具有大量特征的应用中越来越常见。本文提出一种两阶段松弛贪婪算法(TSRGA),用于将多元线性回归应用于此类数据。TSRGA 的主要优势是其通信复杂度不依赖于特征维度,使其对极大数据集具有高度可扩展性。此外,对于多元响应变量,TSRGA 可用于产生低秩系数估计。TSRGA 的快速收敛性通过仿真实验得到验证。最后,我们将提出的 TSRGA 应用于一个利用 10-K 报告非结构化数据的金融应用,展示了其在具有许多稠密大维度矩阵的应用中的实用性。
引用
@article{arxiv.2307.03410,
title = {Scalable High-Dimensional Multivariate Linear Regression for Feature-Distributed Data},
author = {Shuo-Chieh Huang and Ruey S. Tsay},
journal= {arXiv preprint arXiv:2307.03410},
year = {2024}
}