基于非线性自回归模型的动态学习率估计

我们提出了一种新的自适应非线性自回归（Nlar）模型类，融合了动量概念，能够随迭代次数的增加动态估计学习率和动量。在我们的方法中，通过使用缩放（clipping）函数控制梯度的增长，从而实现稳定的收敛。在此框架下，我们提出了三种不同的学习率估计器，并对其收敛性提供了理论证明。我们进一步展示了这些估计器如何支撑有效 Nlar 优化器的开发。对所提出估计器和优化器的性能进行了通过多个数据集和强化学习环境中的广泛实验的严格评估。结果突出了 Nlar 优化器的两个关键特征：尽管底层参数存在变动，包括较大的初始学习率，仍实现稳健收敛；以及在初始时期具有强大的适应性和快速收敛。