类脑变分推断

在大脑和机器中，通过优化一个共享目标函数来形式化推断：在机器学习中为最大化证据下界 (ELBO)，或在神经科学中为最小化变分自由能 (F) (ELBO = -F)。尽管这种等价性 suggest 了一种统一的框架，但仍未解决推断在神经系统中如何实现的问题。本文引入FOND (Free energy Online Natural-gradient Dynamics)，一个从三个原则中推导神经推断动力学的框架：(1) 对F的自然梯度；(2) 在线信念更新；(3) 迭代细化。我们将FOND应用于推导iP-VAE (iterative Poisson variational autoencoder)，这是一种循环脉冲神经网络，通过膜电位动力学执行变分推断，将 amortized 编码器替换为迭代推断更新。从理论上讲，iP-VAE具有若干理想特征，例如通过侧向竞争实现的自组织归一化，以及硬件高效的整数脉冲计数表示。实验上，iP-VAE 在稀疏性、重构和生物学可行性方面均优于标准VAE和高斯基于预测编码的模型，并扩展到复杂彩色图像数据集如CelebA。iP-VAE还在分布输入方面表现出强大的泛化能力，超越混合式迭代- amortized VAE。这些结果表明，从基本原理推导推断算法可产生同时在生物学可行性和实用性方面都优异的具体架构。