比海森矩阵累加更快地计算牛顿步

计算具有 $N$ 个决策变量的通用函数的牛顿步需要 $O(N^3)$ 次浮点运算。在本文中，我们证明，给定函数的计算图，该界限可以降低到 $O(m\tau^3)$，其中 $\tau, m$ 是该图树分解的宽度和大小。所提出的算法将基于 LQR 的非线性最优控制方法推广到一般优化问题，并且即使在 Hessian 矩阵稠密的情况下也能在迭代复杂度方面提供非平凡的增益。