流形上的拟合优度检验
机器学习
2020-11-12 v2 机器学习
统计理论
统计理论
摘要
我们针对非线性模型发展了一种拟合优度检验的一般理论。特别地,我们假设观测值是由一个足够光滑的非线性映射所定义的子流形的含噪样本。观测噪声为加性高斯噪声。我们的主要结果表明,通过求解非线性最小二乘问题得到的模型拟合“残差”服从一个(可能非中心的) 分布。该 分布的参数与模型阶数和问题维度有关。我们进一步提出了一种依次选择模型阶数的方法。我们展示了该一般理论在机器学习和信号处理中的广泛应用,包括从含噪、部分或间接观测中确定低秩(可能为复值)矩阵与张量的秩、确定信号分离中源的数量,以及在确定神经网络中隐藏节点数量方面的潜在应用。
引用
@article{arxiv.1909.05229,
title = {Goodness-of-fit tests on manifolds},
author = {Alexander Shapiro and Yao Xie and Rui Zhang},
journal= {arXiv preprint arXiv:1909.05229},
year = {2020}
}