论在线梯度下降的计算能力
机器学习
2019-02-07 v2 机器学习
摘要
我们证明了在线梯度下降中权重向量的演化可编码任意多项式空间计算，即使在非常简单的学习设定下也是如此。我们的结果意味着，在较弱的复杂性理论假设下，不可能高效地推理在线梯度下降的细粒度行为。
引用
@article{arxiv.1807.01280,
title = {On the Computational Power of Online Gradient Descent},
author = {Vaggos Chatziafratis and Tim Roughgarden and Joshua R. Wang},
journal= {arXiv preprint arXiv:1807.01280},
year = {2019}
}
备注
Added results, linear regression, neural nets. Fixed typos