一种构建坐标无关统计学的结构化方法
概率论
2014-05-06 v2 泛函分析
统计理论
机器学习
统计理论
摘要
我们考虑在一般拓扑向量空间中的学习问题。通过利用已知(或参数化的)协方差结构,我们的主定理证明了任何连续线性映射都对应于嵌入 Hilbert 空间的某种同构。通过逆推该同构并进行连续延拓,我们在绝对一般的情形下构造了普通最小二乘估计量的一个版本。我们的 Gauss-Markov 定理证明了 OLS 是“最佳线性无偏估计量”,推广了经典结果。我们构造了 OLS 估计量的一个随机版本,它恰好对于“不相关即独立”(UII)测度类是一个连续崩解。作为推论,Gaussian 测度始终通过连续线性映射展现出连续崩解,推广了第一作者的一个定理。将此框架应用于机器学习中的一些问题,我们证明了协方差张量的一个有用表示定理,并表明 OLS 为一般索引空间上的向量值数组定义了一个良好的克里金预测器。我们还在此设置下构造了一个支持向量机分类器。我们希望我们的文章能阐明概率论、统计学和机器学习之间的一些更深层次的联系,并可能作为这三个领域的交汇点。
引用
@article{arxiv.1405.0110,
title = {A Structural Approach to Coordinate-Free Statistics},
author = {Tom LaGatta and P. Richard Hahn},
journal= {arXiv preprint arXiv:1405.0110},
year = {2014}
}
备注
31 pages