NeuroPlastic：一种受生物学学习动力学调制的可塑性调节优化器
机器学习
2026-04-30 v1
摘要
优化算法是现代深度学习的根本，而大多数广泛使用的方法依赖于基于局部梯度统计量的更新规则。我们引入 NeuroPlastic，一种受塑性调制的优化器，通过受生物学中多因素突触塑性概念启发的自适应多信号调制机制来增强梯度驱动的更新。NeuroPlastic 动态地使用捕获梯度、类活动和类记忆统计量的相互作用组件，对梯度更新进行比例调节，形成兼容于标准深度学习训练管线的轻量级调制层。在图像分类基准测试中，NeuroPlastic 相对于受控的仅梯度 ablation 始终具有改进，尤其在 Fashion-MNIST 基准和受限数据情形下提升更为显著。在 CIFAR-10 上的迁移实验中，该方法在不重新调参的情况下保持稳定且具有竞争力。这些结果表明，多信号塑性启发的调制可为梯度驱动的优化提供有用的扩展，特别是在学习信号有限或噪声较大的情形下，为深度学习中的梯度方法提供了可前景的方向。
关键词
引用
@article{arxiv.2604.26297,
title = {NeuroPlastic: A Plasticity-Modulated Optimizer for Biologically Inspired Learning Dynamics},
author = {Douglas Jiang and Yuechen Wang and Jiayi Wang and Jiaying Geng and Qinglong Wang and Feng Tian},
journal= {arXiv preprint arXiv:2604.26297},
year = {2026}
}
备注
16 pages, 7 figures