非衰减增益随机逼近的误差界及其应用

本文分析了应用于时变问题的非衰减增益随机逼近算法。其设定为在采样时刻 $\tau_k$ 最小化标量值损失函数序列 $f_k(\cdot)$，或在 $\tau_k$ 针对参数 $\theta\in R^p$ 定位向量值函数序列 $g_k(\cdot)$ 的根。可用信息仅为在单点或两点设计处评估的 $f_k(\cdot)$ 或 $g_k(\cdot)$ 的含噪观测。给定时变随机逼近设定，我们采用非衰减增益随机逼近算法，使得递归估计 $\hat{\theta}_k$ 能在跟踪时变最优值 $\theta_k^*$ 时保持动量。第 3 章给出了均方根误差 $\sqrt{E(\|\hat{\theta}_k-\theta_k^*\|^2)}$ 的界。总体而言，这些界在时变漂移的温和假设及观测噪声与偏置项的适度限制下适用。在第 3 章确立跟踪能力后，第 4 章讨论了 $\hat{\theta}_k$ 的集中行为。$\hat{\theta}_k$ 连续插值的弱收敛极限被证明遵循非自治常微分方程的轨迹。第 3 章与第 4 章均为概率论证，可能对单次实验运行有用的增益调节策略指导有限。因此，第 5 章讨论了基于估计 Hessian 信息与噪声水平的依赖数据的增益调节策略。总体而言，本工作回答了“动力学系统 $\theta_k^*$ 的估计是什么”以及“我们在多大程度上可以信任 $\hat{\theta}_k$ 作为 $\theta_k^*$ 的估计”两个问题。