反思基于预训练模型的无重放持续学习现状

随着基础模型的出现和近期普及，持续学习(CL)已从从头开始的持续训练转向预训练模型的持续适应，特别是在无重放CL基准(RFCL)上取得了成功。为实现这一点，大多数提出的方法调整和重构了参数高效微调技术(PEFT)，以适应问题的持续性质。这些基于PEFT的RFCL(P-RFCL)方法通常基于输入条件的查询机制或基于提示或适配器的PEFT之上的正则化，报告了峰值性能；通常令人信服地超越了现有的CL技术。然而，另一方面，最近的关键性研究通过仅在第一任务上训练或通过简单的非参数基线，报告了有竞争力的结果。因此，关于P-RFCL中的方法论选择与其报告的高基准分数之间的关系，问题随之产生。在这项工作中，我们处理这些问题，以更好地理解强P-RFCL性能背后的真正驱动力、它们相对于最近的第一任务适应研究的定位，以及它们与先前CL标准（如EWC或SI）的关系。特别地，我们表明：(1) 依赖输入条件查询机制的P-RFCL技术并非因为该机制而有效，而是尽管有该机制，它们会坍缩为标准PEFT捷径解。(2) 事实上，我们展示了大多数情况下，P-RFCL技术可以被一个简单且轻量的PEFT基线所匹敌。(3) 使用此基线，我们识别出从PEFT方法推导RFCL方法时，可调参数的隐式界限是P-RFCL效力的潜在共同分母。最后，我们(4) 更好地解耦了持续学习与第一任务适应，并(5) 根据最近的P-RFCL方法，重新激发了标准RFCL技术（如EWC或SI）的动机。