以竞争性可塑性降低学习的能量代价
神经与进化计算
2026-04-17 v1 人工智能
神经元与认知
摘要
大脑不仅受限于驱动计算所需的能量，也受限于形成记忆所需的能量。实验表明，学习简单的条件作用任务已带来显著的代谢代价。然而，将 MNIST 学到 95% 准确率似乎至少需要 10^{8} 次突触更新。因此，大脑很可能已进化出尽可能少耗能的学习能力。我们探究了前馈神经网络中学习所需的能量。基于一个简约的能量模型，我们提出两种节省能量的可塑性限制算法：1）仅修改具有大更新的突触，2）将可塑性限制于构成网络通路的突触子集。结合这两种方法可在仅小幅增加学习时间的同时实现可观的能量节省。在生物学中，网络通常远大于任务所需。尤其在那种情况下，可实现巨大的节省。因此，竞争性限制可塑性有助于节省与突触可塑性相关的代谢能量。该结果或可增进对生物可塑性的理解，并改善人工学习与生物学习之间的匹配。此外，这些算法也可能有益于硬件，因为电子学中的存储同样能耗高昂。
引用
@article{arxiv.2304.02594,
title = {Competitive plasticity to reduce the energetic costs of learning},
author = {Mark CW van Rossum},
journal= {arXiv preprint arXiv:2304.02594},
year = {2026}
}