学习调制随机权重：受神经调制启发的神经网络用于高效持续学习
机器学习
2023-10-11 v2 计算机视觉与模式识别
摘要
现有的持续学习（CL）方法聚焦于通过正则化方法、回放缓冲区和任务特定组件来应对灾难性遗忘。然而，现实的 CL 解决方案不仅须由灾难性遗忘的指标塑造，还须考虑计算效率与运行时间。在此，我们引入一种受生物神经系统中神经调制启发的新型神经网络架构，以经济高效的方式解决灾难性遗忘，并为解释所学表征提供新途径。神经调制是一种在机器学习中关注有限的生物机制；它实时动态控制并微调突触动力学，以追踪不同行为情境的需求。受此启发，我们提出的架构为每个任务情境学习相对少量的参数，这些参数对变换输入的不变随机权重进行\emph{神经调制}。我们展示了该方法尽管可学习参数极少，却在每任务上具备强劲的学习表现。此外，由于情境向量极为紧凑，多个网络可并发存储而无干扰、占用空间极小，从而彻底消除灾难性遗忘并加速训练过程。
引用
@article{arxiv.2204.04297,
title = {Learning to Modulate Random Weights: Neuromodulation-inspired Neural Networks For Efficient Continual Learning},
author = {Jinyung Hong and Theodore P. Pavlic},
journal= {arXiv preprint arXiv:2204.04297},
year = {2023}
}
备注
13 pages, 13 figures, 5 tables