一种使神经网络的神经元和层数可被添加而不影响输出结果的激活函数
数值分析
2025-05-07 v2 数值分析
摘要
本文提出了一种神经网络激活函数，其可被细化且满足恒等求和。这一新型激活函数类允许在不改变网络输出的前提下，在现有层之间插入新层或增加层中的神经元数量。我们的研究方法基于细分理论。所提出的激活函数由收敛细分方案的基本极限函数构造而成。为展示我们的成果，我们引入了一族样条激活函数，并提供了其实际实现的详尽细节。
引用
@article{arxiv.2410.12625,
title = {Activation functions enabling the addition of neurons and layers without altering outcomes},
author = {Sergio López-Ureña},
journal= {arXiv preprint arXiv:2410.12625},
year = {2025}
}