生物神经网络的算法权衡：自稳定赢家通吃网络

我们从算法的角度开启了对生物神经网络的研究。我们为随机脉冲神经网络中的分布式计算开发了一个简化但生物学上合理的模型，并研究了该模型中计算时间与网络复杂度之间的权衡。我们的目标是以一种方式抽象真实的神经网络，这种方式虽然不能捕捉所有有趣的特征，但保留了高层次的行为，并使我们能够得出生物学上相关的结论。在本文中，我们专注于重要的“赢家通吃”（WTA）问题，它类似于神经领导者选举单元：一个由 $n$ 个输入神经元和 $n$ 个相应输出神经元组成的网络必须收敛到一个状态，在该状态下，对应于一个发放输入的单个输出（“赢家”）发放，而所有其他输出保持静默。WTA 的神经回路依赖于抑制性神经元，它们抑制竞争输出的活动，并驱动网络朝向只有一个发放赢家的收敛状态。我们试图理解所使用的抑制器数量如何影响网络收敛时间。我们证明，通过更精细地使用抑制，可以显著优于朴素的 WTA 构造，对于任意 $\theta$，仅用 $O(\log^{1/\theta} n)$ 个抑制器就能在期望 $O(\theta)$ 轮内解决问题。另一种构造则用 $O(\theta)$ 个抑制器在 $O(\log^{1/\theta} n)$ 轮内收敛。我们以我们的主要技术贡献——一个针对使用 $\ge \log\log n$ 个抑制器的网络的近乎匹配的下界——来补充这些上界。我们的下界使用了分布式计算理论中熟悉的不可区分性和局部性论证。它使我们能够推导出关于任何以良好概率解决 WTA 的网络的结构，以及在此类网络中使用随机性和抑制的许多有趣结论。