Scifaro

中文

关于参数线性非线性神经架构在梯度学习下收敛性的一封信

机器学习 2021-11-29 v1 神经与进化计算动力系统最优化与控制

作者: Ivo Bukovsky , Gejza Dohnal , Peter M. Benes , Kei Ichiji , Noriyasu Homma

在 arXiv 上查看 ↗ PDF ↗ DOI ↗

摘要

本信总结并证明了有界输入有界状态(BIBS)稳定性概念，该概念适用于一大类参数线性非线性神经架构的权重收敛，并普遍适用于一大类增量梯度学习算法。从推导出的证明中，为实时应用中的每个单独学习点或批次得出了一个实用的BIBS收敛条件。

关键词

有界输入有界状态稳定性权重收敛参数内线性非线性神经架构增量梯度学习实时学习

引用

@article{arxiv.2111.12877,
  title  = {A Letter on Convergence of In-Parameter-Linear Nonlinear Neural Architectures with Gradient Learnings},
  author = {Ivo Bukovsky and Gejza Dohnal and Peter M. Benes and Kei Ichiji and Noriyasu Homma},
  journal= {arXiv preprint arXiv:2111.12877},
  year   = {2021}
}

备注

IEEE Trans. Neural Netw. Learn. Syst., Early Access