二维层 feedforward 神经网络的局部可观测性
系统与控制
2025-08-29 v1 系统与控制
摘要
超越基于梯度下降及其变体的传统神经网络训练方法，状态估计技术被提出从控制理论视角确定一组理想权重。因此，可观测性概念变得 relevant于神经网络训练。本文我们针对具有整流线性单元 (ReLU) 激活函数的二维层 feedforward 神经网络 (FNN) 的局部可观测性进行研究。我们通过评估关于权重矩阵和输入序列的可观测性秩条件来分析 FNN 的局部可观测性。首先，我们表明，一般情况下，FNN 的权重不存在局部可观测性。随后，我们提供关于网络结构和权重的充分条件，以实现局部可观测性。此外，我们提出一种输入设计方法，使权重可区分，并表明该输入还能激发邻域内其他权重。最后，我们通过一个数值示例来验证我们的成果。
引用
@article{arxiv.2508.20544,
title = {Local Observability of a Class of Feedforward Neural Networks},
author = {Yi Yang and Victor G. Lopez and Matthias A. Müller},
journal= {arXiv preprint arXiv:2508.20544},
year = {2025}
}
备注
6 pages, 1 figure