面向任务不平衡持续学习的动态锚定提示
机器学习
2024-07-30 v2
摘要
现有的持续学习文献严重依赖于任务以平衡数据流到达的强假设，这在实际应用中通常是不现实的。在本工作中，我们探索了任务不平衡持续学习（TICL）场景，其中在整个学习过程中任务数据的分布是不均匀的。我们发现，从近期基于提示的持续学习方法来看，不平衡的任务显著挑战了模型在稳定性和可塑性之间控制权衡的能力。基于上述发现，我们提出了动态锚定提示（DAP），这是一种基于提示的方法，仅维护一个通用提示以动态适应任务流内的变化。该通用提示在提示空间中通过两个专门设计的提示锚点（称为增强锚点和稳定锚点）进行正则化，以平衡 TICL 中的稳定性和可塑性。值得注意的是，DAP 仅通过在数据流中存储一个提示来实现这种平衡，因此在无排练持续学习中具有显著优势。大量实验表明，在任务不平衡设置下的基准测试中，所提出的 DAP 相比最先进的方法取得了 4.5% 至 15% 的绝对提升。我们的代码可在 https://github.com/chenxing6666/DAP 获取
引用
@article{arxiv.2404.14721,
title = {Dynamically Anchored Prompting for Task-Imbalanced Continual Learning},
author = {Chenxing Hong and Yan Jin and Zhiqi Kang and Yizhou Chen and Mengke Li and Yang Lu and Hanzi Wang},
journal= {arXiv preprint arXiv:2404.14721},
year = {2024}
}
备注
Accepted by IJCAI 2024