利用伽马随机变量线性组合的极值概率评估大规模非线性最小二乘问题的随机算法
数值分析
2015-01-27 v2 数值分析
统计理论
应用统计
统计理论
摘要
本文探讨了用于高效求解应用中常见的一类大规模非线性最小二乘 (NLS) 问题的随机算法。我们提出了八种实用随机算法的变体，并对主要随机步骤中的不确定性进行了量化。这些随机步骤涉及使用蒙特卡洛 (Monte-Carlo) 方法近似 NLS 目标函数，这等价于估计相应对称正半定 (SPSD) 矩阵的迹。对于后者，我们证明了关于样本量（即成本）以满足规定概率精度的紧密充要条件。我们表明这些条件在实际中是可计算的，并能产生较小的样本量。随后，我们将这些条件纳入随机算法中，以量化每个随机步骤的不确定性。我们所使用的界限是关于伽马分布随机变量线性组合的极值尾部概率更一般结果的应用。我们推导并证明了关于此类线性组合的最大和最小尾部概率的新结果，这些结果可独立于本文其余部分进行考量。
引用
@article{arxiv.1404.0122,
title = {Assessing stochastic algorithms for large scale nonlinear least squares problems using extremal probabilities of linear combinations of gamma random variables},
author = {Farbod Roosta-Khorasani and Gábor J. Székely and Uri Ascher},
journal= {arXiv preprint arXiv:1404.0122},
year = {2015}
}