并行连接神经网络间的协作——一种区分人工神经网络与自然器官的可能判据
机器学习
2022-08-23 v1 神经与进化计算
摘要
我们通过实验发现，当人工神经网络并行连接并共同训练时，表现出如下特性。（i）当并行连接神经网络（PNN）被优化时，连接中的每个子网络并未被优化。（ii）较差子网络对整个PNN的贡献可媲美较优子网络。（iii）即便所有子网络均给出错误结果，PNN仍能输出正确结果。这些特性对于自然生物感觉器官而言不太可能出现。因此，它们可作为衡量神经网络仿生程度的简单而有效的判据。借助该判据，我们进一步表明，当作为激活函数时，ReLU函数可使人工神经网络比sigmoid与Tanh函数更具仿生性。
引用
@article{arxiv.2208.09983,
title = {Collaboration between parallel connected neural networks -- A possible criterion for distinguishing artificial neural networks from natural organs},
author = {Guang Ping He},
journal= {arXiv preprint arXiv:2208.09983},
year = {2022}
}
备注
9 pages, 8 figures, 3 tables