面向忆阻器持续学习的概率化元可塑性

在动态环境中运行的边缘设备迫切需要具备持续学习且不发生灾难性遗忘的能力。这些设备严格的资源限制对此构成了重大挑战，因为持续学习会带来内存和计算开销。采用忆阻器件的交叉阵列架构通过存内计算提供能效，有望解决这一问题。然而，忆阻器在电导调制中通常表现出低精度和高变异性，使其不适用于需要精确调制权重幅度以进行巩固的持续学习方案。当前方法无法直接应对这一挑战，而是依赖辅助的高精度存储器，导致频繁的内存访问、高内存开销和能量耗散。在本研究中，我们提出了概率化元可塑性，它通过调制权重的更新概率而非幅度来巩固权重。所提出的机制消除了对权重幅度的高精度修改，从而也消除了对辅助高精度存储器的需求。我们通过将概率化元可塑性集成到一个使用低精度忆阻器权重、基于误差阈值训练的脉冲网络中，证明了该机制的有效性。对持续学习基准的评估表明，概率化元可塑性实现了与采用高精度权重的当前最优持续学习模型相当的性能，同时与基于辅助存储器的方案相比，额外参数的内存消耗降低约67%，参数更新期间的能耗降低高达约60倍。该模型展示了利用低精度新兴器件实现高能效持续学习的潜力。