结构化特征缓解人工神经网络在持续学习中的稳定性-塑性困境
机器学习
2025-02-04 v1 人工智能
计算机视觉与模式识别
神经元与认知
摘要
人工神经网络在持续学习中面临稳定性-塑性困境，而大脑能够保持记忆并保持可适应性。然而，关于持续学习的生物策略及其潜在用于启发神经网络学习算法的理解仍不充分。本研究提出一种飞鸟嗅觉回路的最小模型，以探究支持持续嗅觉学习的生物策略。我们将飞鸟嗅觉回路作为一种插即插式组件，称为 Fly Model，可与现代机器学习方法集成，以解决此困境。我们的发现表明，Fly Model 在提升记忆稳定性和学习塑性方面均取得佳绩，克服了当前持续学习策略的局限性。我们使用常用数据集在various 挑战性持续学习情景下验证了其有效性。飞鸟嗅觉系统作为一种优雅的生物回路，为终身学习提供了一个模块，使机器学习的持续学习得以在最小额外计算成本下实现。
引用
@article{arxiv.2502.01427,
title = {Structural features of the fly olfactory circuit mitigate the stability-plasticity dilemma in continual learning},
author = {Heming Zou and Yunliang Zang and Xiangyang Ji},
journal= {arXiv preprint arXiv:2502.01427},
year = {2025}
}