灾难性干扰的自然缓解：幂律学习环境下的持续学习
机器学习
2024-08-28 v3 人工智能
摘要
神经网络经常遭受灾难性干扰（CI）：在学习新任务时，对先前学习任务的性能会显著下降。这与人类形成鲜明对比，人类能够持续学习新任务而不会明显遗忘先前任务。先前的工作探索了多种缓解CI并促进持续学习的技术，如正则化、重放、生成式重放和特定上下文组件。本文采用了一种不同的方法，该方法受认知科学研究的启发，表明在自然环境中，遇到某任务的概率随自上次执行该任务以来的时间呈幂律递减。我们认为，缓解CI的技术应与模拟自然学习环境中的内在缓解进行比较。因此，我们评估了在与人类面临的类似幂律环境中训练模型时CI的自然缓解程度。结果表明，自然重放环境在缓解CI方面优于现有方法，这表明需要更好的评估流程。该环境的优势包括简单性、与任务和模型无关的重放，以及不需要额外的神经回路。此外，我们在幂律环境中探索了流行的缓解技术，为持续学习研究创建了新的基线。
引用
@article{arxiv.2401.10393,
title = {Natural Mitigation of Catastrophic Interference: Continual Learning in Power-Law Learning Environments},
author = {Atith Gandhi and Raj Sanjay Shah and Vijay Marupudi and Sashank Varma},
journal= {arXiv preprint arXiv:2401.10393},
year = {2024}
}