状态空间人工神经网络的改进初始化
机器学习
2021-03-29 v1 系统与控制
系统与控制
摘要
黑盒非线性状态空间模型的辨识需要状态和输出方程的灵活表示。人工神经网络已被证明可提供此类表示。然而,如同许多辨识问题,需要求解一个非线性优化问题以获得模型参数(层权重与偏置)。对这些模型参数经过深思的初始化往往能避免非线性优化算法收敛到所考虑代价函数的性能不佳的局部极小值。本文提出一种针对以递归人工神经网络表示的非线性状态空间模型的改进初始化方法,并强调在模型结构中包含显式线性项的重要性。部分神经网络权重从非线性系统的线性近似出发初始化,而其他权重使用随机值或零初始化。所提初始化方法相对于先前提出方法的有效性在两个基准示例上得到说明。
引用
@article{arxiv.2103.14516,
title = {Improved Initialization of State-Space Artificial Neural Networks},
author = {Maarten Schoukens},
journal= {arXiv preprint arXiv:2103.14516},
year = {2021}
}
备注
Accepted for presentation at the European Control Conference 2021, Rotterdam, The Netherlands