Q-Newton：基于牛顿梯度的混合量子-经典调度加速神经网络训练

深度学习中的优化技术主要依赖一阶梯度方法，如随机梯度下降（SGD）。然而，神经网络训练从二阶优化的快速收敛特性中获益颇大。牛顿梯度法（Newton's GD）在此类方法中尤为突出，通过对梯度进行尺度变换来实现这一点，即使用逆 Hessian。然而，其主要瓶颈之一是矩阵求逆，在 $O(N^3)$ 时间复杂度下规模较差。矩阵求逆可转化为求解一系列线性方程组。鉴于量子线性求解算法（QLSA）利用量子叠加和纠缠原理可在 $\text{polylog}(N)$ 时间内运行，因而具有指数级加速潜力。具体而言，最新 QLSA 显示其复杂度为 $O(d\cdot\kappa \log(N\cdot\kappa/\epsilon))$，取决于矩阵的：{大小 $N$、条件数 $\kappa$、误差容忍度 $\epsilon$、量子 oracle 稀疏度 $d$}。然而，这也意味着其潜在的指数级优势可能因 certain properties（即 $\kappa$ 和 $d$）而受到限制。我们提出 Q-Newton，一种用于加速神经网络训练的混合量子-经典调度器。Q-Newton 利用简化的调度模块在量子和经典线性求解器之间进行协调，通过估计和降低 $\kappa$ 以及为量子求解器构建 $d$。我们的评估表明，与 SGD 等常用优化器相比，Q-Newton 可显著减少总体训练时间。我们假设在量子机器的门时延被缩短（可能通过亚秒物理实现）的未来情景。我们的评估为量子计算的演进设定了一个宏伟且充满希望的目标。