带相关误差的大规模回归模型推断
统计方法学
2024-09-10 v1 应用统计
统计计算
机器学习
摘要
数据大小和存储成本的指数级增长给数据科学社区带来了诸多挑战，亟需解决如何在如此大数据设置下运行学习方法的问题。虽然机器学习已扩展到在大数据环境中实现预测准确性，但统计推断和不确定性量化工具仍滞后于人们。优先科学领域收集大量数据，以理解通常使用回归等统计方法来研究的现象。在这种情况下，回归参数估计可以从高效的计算程序中受益，但主要挑战在于计算具有复杂协方差结构的误差过程参数。识别和估计这些结构对于推断至关重要，常用于机器学习中带有高斯过程的不确定性量化。然而，随着数据规模的扩大，这些结构的估计变得繁重，需要牺牲输出可靠性的近似方法。当存在如长程依赖或缺失数据等复杂性时，这些近似方法甚至更不可靠。本工作定义并证明了广义小波矩法（GMWMX）的统计性质，这是一种高度可扩展、稳定且统计上有效的方法，用于在存在潜在相关结构和缺失数据的情况下，使用随机过程进行线性模型的估计和推断。来自地球科学的实际案例和大量仿真实验凸显了GMWMX的优势。
引用
@article{arxiv.2409.05160,
title = {Inference for Large Scale Regression Models with Dependent Errors},
author = {Lionel Voirol and Haotian Xu and Yuming Zhang and Luca Insolia and Roberto Molinari and Stéphane Guerrier},
journal= {arXiv preprint arXiv:2409.05160},
year = {2024}
}