基于密集 ReLU 神经网络的时空模型
机器学习
2025-06-11 v8 机器学习
统计理论
统计理论
摘要
本文聚焦于采用修正线性单元 (ReLU) 激活函数的全连接深层神经网络，用于非参数估计。我们推导了非渐近界限，导致收敛速率，既考虑了时间依赖性也考虑了空间依赖性。通过考虑时间和空间之间的相互依赖，我们的模型更能反映真实数据的复杂性，增强了预测性能和理论鲁棒性。我们还通过在高维数据上建模于流形上，探索了数据的内在维度，以克服维度灾难。我们将现有的时空分析理论扩展到更一般的神经网络上下文，展示了我们的证明技术对具有短程依赖性的模型同样有效。我们的经验仿真在各种合成响应函数上突显了该方法的优越性能，在现有文献中超越了既定方法。这些发现为 Dense NN 在广泛函数类上的时空建模提供了有价值的见解，凸显了其强大的能力。
引用
@article{arxiv.2411.09961,
title = {Dense ReLU Neural Networks for Temporal-spatial Model},
author = {Carlos Misael Madrid Padilla and Zhi Zhang and Xiaokai Luo and Daren Wang and Oscar Hernan Madrid Padilla},
journal= {arXiv preprint arXiv:2411.09961},
year = {2025}
}