模拟、演化与随机循环神经网络的精细化 Kolmogorov 复杂度

我们基于模拟、演化和随机神经网络的实权重、演化权重和实概率的 Kolmogorov 复杂度，分别给出了其超图灵计算能力的精细化刻画。首先，我们重新得到了由底层实权重的 Kolmogorov 复杂度定义的模拟网络无穷类层次，该层次位于复杂度类 $\mathbf{P}$ 与 $\mathbf{P/poly}$ 之间。随后，我们将该结果推广到演化网络的情形，得到了类似的基于 Kolmogorov 复杂度的演化网络复杂度类层次，该层次同样位于 $\mathbf{P}$ 与 $\mathbf{P/poly}$ 之间。最后，我们将这些结果扩展到采用实概率作为随机性来源的随机网络，从而得到了基于其概率的 Kolmogorov 复杂度的随机网络无穷层次，此层次弥合了 $\mathbf{BPP}$ 与 $\mathbf{BPP/log^*}$ 之间的鸿沟。除证明此类层次的存在并给出示例外，我们描述了一种基于复杂度递增的函数类构造它们的通用方法。为清晰起见，本研究在回声状态网络框架下表述。总体而言，本文旨在填补缺失结果，并就模拟、演化与随机神经网络的精细化能力提供统一视角。