学习提示开放世界持续学习中的知识迁移
机器学习
2023-12-27 v1 人工智能
计算机视觉与模式识别
摘要
本文研究了开放世界场景下的持续学习问题,称为开放世界持续学习 (Open-world Continual Learning, OwCL)。OwCL 日益受到关注,但它在两个方面极具挑战性:i) 在不遗忘过去已知知识的情况下学习一系列任务,以及 ii) 在未来识别未知事物(新目标/类别)。现有的 OwCL 方法在已知与未知之间任务感知边界的适应性上存在不足,且未考虑知识迁移机制。在本工作中,我们提出了 Pro-KT,一种用于 OwCL 的新型提示增强知识迁移模型。Pro-KT 包含两个关键组件:(1) 一个用于编码和迁移任务通用知识与任务特定知识的提示库,以及 (2) 一个用于识别新任务中未知事物的任务感知开放集边界。在两个真实世界数据集上的实验结果表明,所提出的 Pro-KT 在未知事物的检测和已知事物的分类上均显著优于最先进的方法。
引用
@article{arxiv.2312.14990,
title = {Learning to Prompt Knowledge Transfer for Open-World Continual Learning},
author = {Yujie Li and Xin Yang and Hao Wang and Xiangkun Wang and Tianrui Li},
journal= {arXiv preprint arXiv:2312.14990},
year = {2023}
}
备注
Accepted by the proceeding of AAAI2024