用于流式数据神经网络在线学习的低秩扩展卡尔曼滤波
机器学习
2023-06-29 v3 机器学习
摘要
我们提出一种高效的在线近似贝叶斯推断算法，用于从潜在非平稳数据流中估计非线性函数的参数。该方法基于扩展卡尔曼滤波（EKF），但使用了后验精度矩阵的一种新颖低秩加对角分解，使得每步成本关于模型参数数量呈线性。与基于随机变分推断的方法不同，我们的方法完全确定性，且不需要步长调优。我们通过实验表明，这带来了快得多的（更高样本效率的）学习，从而实现对变化分布的更快速适应，以及当作为上下文_bandit算法一部分使用时奖励的更快累积。
引用
@article{arxiv.2305.19535,
title = {Low-rank extended Kalman filtering for online learning of neural networks from streaming data},
author = {Peter G. Chang and Gerardo Durán-Martín and Alexander Y Shestopaloff and Matt Jones and Kevin Murphy},
journal= {arXiv preprint arXiv:2305.19535},
year = {2023}
}