频率传播：非线性物理网络中的多机制学习

我们介绍了频率传播，一种用于非线性物理网络的学习算法。在一个带有可变电阻的电阻电路中，在一组输入节点以某一频率施加激活电流，在一组输出节点以另一频率施加误差电流。电路对这些边界电流的电压响应是“激活信号”和“误差信号”的叠加，其系数可在频域的不同频率中读出。每个电导按这两个系数的乘积成比例更新。该学习规则是局部的，并被证明在损失函数上执行梯度下降。我们认为频率传播是物理网络（无论是电阻网络、弹性网络还是流网络）多机制学习策略的一个实例。多机制学习策略包含至少两种物理量，可能由独立的物理机制支配，在训练过程中充当激活信号和误差信号。然后利用关于这两个信号的局部可用信息来更新可训练参数以执行梯度下降。我们展示了早期在流网络中通过化学信号实现学习的工作同样属于多机制学习的范畴。