中文

关于非持续激励下随机梯度识别算法的基本极限

最优化与控制 2026-05-08 v3

摘要

随机梯度(SG)方法是系统识别和机器学习的基本方法,使其能够在大规模和流式数据环境中实现在线参数估计。作为一种经典的识别方法,SG算法已经历数十年的广泛研究。在非持续激励条件下,目前最强的收敛结果假设, Fisher 信息矩阵的条件数为 O((logrn)α)O((\log r_n)^\alpha),其中 rn=1+i=1nφi2r_n = 1 + \sum_{i=1}^n \|\varphi_i\|^2。现有理论在 α1/3\alpha \le 1/3 时建立了强一致性,而相同条件下的 α>1\alpha > 1 则不足以保证强一致性。我们证明,在 0α<10 \le \alpha < 1 的整个范围内都存在强一致性。该证明基于一种新的代数框架,由此得到显著更精细的矩阵范数界限。这一结果几乎解决了四十年来久未解决的Chen--Guo猜想,通过在此之前开放的范围 1/3<α<11/3 < \alpha < 1 内建立强一致性。

关键词

引用

@article{arxiv.2511.19981,
  title  = {On the Fundamental Limit of the Stochastic Gradient Identification Algorithm Under Non-Persistent Excitation},
  author = {Senhan Yao and Longxu Zhang},
  journal= {arXiv preprint arXiv:2511.19981},
  year   = {2026}
}