用于记忆的漂移
人工智能
2024-09-24 v1 神经元与认知
摘要
人工智能(AI)中的终身学习旨在模拟生物大脑持续学习和保留知识的能力,然而它面临着诸如灾难性遗忘等挑战。最近的神经科学研究表明,生物系统中的神经活动会经历表征漂移,即即使在输入和任务一致的情况下,神经响应也会随时间演化。我们假设表征漂移可以缓解 AI 在新任务获取过程中的灾难性遗忘。为了验证这一点,我们引入了 DriftNet,这是一种旨在不断探索损失景观中各种局部极小值,同时动态检索相关任务的网络。这种方法确保了新信息的有效整合并保留了现有知识。在图像分类和自然语言处理中的实验研究表明,DriftNet 在终身学习方面优于现有模型。重要的是,DriftNet 在可扩展性方面表现出色,能够在单个 Nvidia A100 GPU 上使用具有数十亿参数的大型语言模型(LLM)处理诸如情感分析和问答等一系列任务。DriftNet 仅使用新数据高效更新 LLM,避免了在完整数据集上重新训练的需要。在 GPT-2 和 RoBERTa 上进行的测试表明,DriftNet 是一种用于 LLM 终身学习的稳健且具有成本效益的解决方案。这项研究不仅推动了 AI 系统对生物学习的模拟,而且还提供了对生物神经系统适应机制的见解,加深了我们对自然界中终身学习的理解。
引用
@article{arxiv.2409.13997,
title = {Drift to Remember},
author = {Jin Du and Xinhe Zhang and Hao Shen and Xun Xian and Ganghua Wang and Jiawei Zhang and Yuhong Yang and Na Li and Jia Liu and Jie Ding},
journal= {arXiv preprint arXiv:2409.13997},
year = {2024}
}