基于随机主成分分析与梯度下降的快速岭回归
机器学习
2014-05-16 v1
摘要
我们提出了一种名为 LING 的两阶段新算法,用于解决大规模回归问题。在固定设计设定下,LING 具有与著名的岭回归 (Ridge Regression) 相同的风险,但计算速度更快。实验表明,无论是在模拟数据集还是真实数据集上,与梯度下降 (Gradient Descent)、随机梯度下降 (Stochastic Gradient Descent) 和主成分回归 (Principal Component Regression) 等其他大规模回归算法相比,LING 在预测精度和计算效率方面均表现优异。
引用
@article{arxiv.1405.3952,
title = {Fast Ridge Regression with Randomized Principal Component Analysis and Gradient Descent},
author = {Yichao Lu and Dean P. Foster},
journal= {arXiv preprint arXiv:1405.3952},
year = {2014}
}