在线随机梯度下降从单条轨迹学习线性动力系统
机器学习
2021-02-24 v1 系统与控制
信号处理
系统与控制
摘要
本工作研究从单条含噪测量序列估计稳定时不变线性动力系统权重矩阵的问题。我们证明，若描述系统的未知权重矩阵处于 Brunovsky 标准型，则可利用基于系统传递函数构建的线性方程组，通过在线与离线随机梯度下降（SGD）方法高效估计系统的真实未知矩阵。具体而言，通过推导具体复杂度界，我们证明 SGD 在期望下以线性速率收敛到距真实权重任意小的 Frobenius 范数距离。据我们所知，我们的工作是首个为从单条轨迹估计线性动力系统权重矩阵的在线与离线基于梯度的迭代方法建立线性收敛特性的工作。大量数值测试验证了所提方法的性能与我们的理论一致，并显示出相对于现有最优方法的优越性能。
引用
@article{arxiv.2102.11822,
title = {Online Stochastic Gradient Descent Learns Linear Dynamical Systems from A Single Trajectory},
author = {Navid Reyhanian and Jarvis Haupt},
journal= {arXiv preprint arXiv:2102.11822},
year = {2021}
}