基于已知-未知知识迁移的开放世界持续学习探索
机器学习
2025-02-28 v1 人工智能
摘要
开放世界持续学习（OWCL）是一种面临挑战的范式，其中模型必须在不忘记的前提下逐步学习新知识，同时在开放世界假设下运行。这需要处理不完整的训练数据并在推理时识别未知样本。然而，现有的 OWCL 方法常将开放检测和持续学习视为独立任务，限制了其在 OWCL 中集成开放集检测和增量分类的能力。此外，当前方法主要关注从已知样本传递知识，忽略了来自未知/开放样本所获得的见解。为此，我们形式化了四种不同的 OWCL 场景并进行了全面实验，以探索 OWCL 中的潜在挑战。我们的发现表明，未知的开放检测与已知的增量分类之间存在显著的相互作用，这挑战了一个广为接受的假设，即未知检测与已知分类是正交过程。基于我们的见解，我们提出了\textbf{HoliTrans}（整体已知-未知知识迁移），一种新的 OWCL 框架，集成非线性随机投影（NRP）以创建更线性可分的嵌入空间，并使用分布感知原型（DAPs）构建自适应知识空间。特别地，我们的 HoliTrans 能够支持已知和未知样本的知识迁移，并在 OWCL 期间动态更新开放样本的表示。广泛的实验在各种 OWCL 场景下表明，HoliTrans 超过 22 个竞争性基线，弥合了 OWCL 理论与实践之间的差距，为推进开放世界学习范式提供了稳健、可扩展的框架。
引用
@article{arxiv.2502.20124,
title = {Exploring Open-world Continual Learning with Knowns-Unknowns Knowledge Transfer},
author = {Yujie Li and Guannan Lai and Xin Yang and Yonghao Li and Marcello Bonsangue and Tianrui Li},
journal= {arXiv preprint arXiv:2502.20124},
year = {2025}
}