通过增强正交权重修正克服灾难性遗忘
机器学习
2021-11-22 v1
摘要
神经网络（NNs）顺序学习与记忆多个任务的能力因其灾难性遗忘（CF）问题而在实现通用人工智能方面面临严峻挑战。幸运的是，最新的OWM（正交权重修正）及其他几种持续学习（CL）方法提供了一些克服CF问题的有前景的途径。然而，现有CL方法均未探讨有效克服CF问题的以下三个关键问题：即，在其顺序任务学习期间，什么知识有助于NN的有效权重修正？当新学习任务的数据分布相对于先前已学任务发生变化时，是否应采用统一/特定的权重修正策略？对于给定的CL方法，可顺序学习的任务上限是多少？等等。为此，本文首先揭示了以下事实：新学习任务的权重梯度由新任务的输入空间与先前顺序已学任务的权重空间共同决定。基于该观察与递推最小二乘最优方法，我们提出了一种通过增强OWM的高效且有效的持续学习方法EOWM。并且我们从理论上明确给出了EOWM可顺序学习任务的任务上限。在基准上进行的广泛实验表明，我们的EOWM是有效的，且优于所有最先进的CL基线。
引用
@article{arxiv.2111.10078,
title = {Defeating Catastrophic Forgetting via Enhanced Orthogonal Weights Modification},
author = {Yanni Li and Bing Liu and Kaicheng Yao and Xiaoli Kou and Pengfan Lv and Yueshen Xu and Jiangtao Cui},
journal= {arXiv preprint arXiv:2111.10078},
year = {2021}
}