KirchhoffNet：一种可扩展的超快速模拟神经网络

在本文中，我们利用模拟电子电路的基本原理——基尔霍夫电流定律与电压定律，引入一类独特的神经网络模型，称为 KirchhoffNet。本质上，KirchhoffNet 是一种可作为神经网络运行的模拟电路，以其初始节点电压作为神经网络输入，以特定时刻的节点电压作为输出。指定时间内节点电压的演化由连接节点的边上的可学习参数决定。我们证明 KirchhoffNet 由一组常微分方程（ODEs）支配，并且值得注意的是，即便没有传统层（如卷积层），它也在多样且复杂的机器学习任务上达到了最先进的性能。最重要的是，KirchhoffNet 有望实现为低功耗模拟集成电路，从而带来一个引人注目的特性——无论 KirchhoffNet 中参数数量多少，其片上前向计算总能在短时间内完成。该特性使 KirchhoffNet 成为实现大规模神经网络的一种有前景的基础范式，为 AI 的模拟神经网络开辟了新途径。