面向预训练持续学习的通用框架
机器学习
2024-07-10 v2
摘要
本工作中，我们提出一种利用预训练对顺序到达任务进行持续学习的通用框架，这已成为人工智能系统适应现实世界动态的有前景方向。从理论角度，我们将其目标分解为三个层次组件，包括任务内预测、任务身份推断与任务自适应预测。随后提出一种创新方法，通过参数高效微调（PEFT）技术与表示统计显式优化这些组件。我们在下游持续学习中实证展示了该方法优越性与通用性，并进一步探索 PEFT 技术在上游持续学习中的适用性。我们还结合神经科学近期进展讨论了所提框架的生物学基础。
引用
@article{arxiv.2310.13888,
title = {Towards a General Framework for Continual Learning with Pre-training},
author = {Liyuan Wang and Jingyi Xie and Xingxing Zhang and Hang Su and Jun Zhu},
journal= {arXiv preprint arXiv:2310.13888},
year = {2024}
}
备注
This is a concise version of our HiDe-Prompt, presented in the IMOL workshop (non-archival track) in NeurIPS 2023. arXiv admin note: substantial text overlap with arXiv:2310.07234