基于组成性提示-知识对齐的数据增量学习
计算机视觉与模式识别
2025-05-08 v1 机器学习
摘要
数据增量学习（DIL）旨在从非平稳的数据流中学习，同时保留和利用过去的知识。尽管提示方法有效地将多域知识存储在提示参数中，并通过跨域提示融合获得优异性能，但我们发现存在一种内在局限性：域特定提示之间按组件对齐不一致，导致知识集成产生冲突并降低预测效果。这源于知识组件在提示中的随机位置，使得无关组件的融合会引入干扰。为此，我们提出了组成性提示-知识对齐（KA-Prompt），一种新的基于提示的数据增量学习方法，通过训练期间引入组件感知的提示-知识对齐，显著提升模型的学习和推理能力。KA-Prompt 在两个阶段运行：（1）初始组成结构配置，其中通过贪婪搜索挖掘一组包含与新域相关知识的旧提示，然后利用其初始化新提示以实现可重用知识传递并在新旧提示之间建立内在对齐；（2）在线对齐保持，当新提示演化时，动态识别目标旧提示并对新提示施加自适应组成一致性约束。大量实验表明，KA-Prompt 在 DIL 基准上表现出色。我们的源代码已公开：https://github.com/zhoujiahuan1991/ICML2025-KA-Prompt。
引用
@article{arxiv.2505.04575,
title = {Componential Prompt-Knowledge Alignment for Domain Incremental Learning},
author = {Kunlun Xu and Xu Zou and Gang Hua and Jiahuan Zhou},
journal= {arXiv preprint arXiv:2505.04575},
year = {2025}
}
备注
Accpted by ICML2025