迈向跨域持续学习
机器学习
2024-02-21 v1 人工智能
计算机视觉与模式识别
摘要
持续学习是一个训练学习代理按顺序掌握一系列任务或类别而无需重访过去数据的过程。其挑战在于如何利用先前获得的知识高效学习新任务,同时避免灾难性遗忘。现有方法主要集中于单一领域,限制了其在特定问题上的适用性。在本文中,我们引入了一种名为跨域持续学习(CDCL)的新方法,以解决局限于单一监督领域的问题。我们的方法在紧凑的卷积网络内结合了任务间和任务内的交叉注意力机制。这种整合使模型能够保持与先前任务特征的对齐,从而延缓任务间可能发生的数据漂移,同时在相关领域间执行无监督跨域适应(UDA)。通过利用特定于任务的伪标签方法,我们确保了有标签和无标签样本的输入对准确性,从而增强了学习过程。为了验证我们的方法,我们在公共 UDA 数据集上进行了广泛的实验,展示了其在跨域持续学习挑战中的积极性能。此外,我们的工作引入了增量思想,有助于推动该领域的发展。我们将代码和模型公开,以鼓励进一步的探索和结果复现:\url{https://github.com/Ivsucram/CDCL}
引用
@article{arxiv.2402.12490,
title = {Towards Cross-Domain Continual Learning},
author = {Marcus de Carvalho and Mahardhika Pratama and Jie Zhang and Chua Haoyan and Edward Yapp},
journal= {arXiv preprint arXiv:2402.12490},
year = {2024}
}
备注
12 pages, 2 Figures, 4 Tables. To be published at the IEEE International Conference on Data Engineering (ICDE) 2024