面向域泛化增量学习的多元原型表示
计算机视觉与模式识别
2023-09-26 v1
摘要
深度学习模型在用新类别的样本微调时会遭受灾难性遗忘。当面临训练与测试数据之间的域偏移时，该问题变得更加显著。在本文中，我们研究关键且较少被探索的域泛化类增量学习（DGCIL）。我们设计了一种 DGCIL 方法，能够记住旧类、适应新类，并可对来自未见域的对象进行可靠分类。具体而言，我们的损失函数设计维持了分类边界并抑制了每个类的域特定信息。在无需存储旧类样本的情况下，我们利用知识蒸馏并随着增量训练推进估计旧类原型漂移。我们的原型表示基于多元正态分布，其均值和协方差被持续调整以适应变化的模型特征，从而通过适应特征空间漂移来良好地表示旧类。对于旧类，我们借助 Cholesky 分解从调整后的正态分布中采样伪特征。与以往仅依赖平均均值原型的伪特征采样策略相比，我们的方法更擅长捕捉变化的语义信息。在多个基准上的实验验证了我们的论断。
引用
@article{arxiv.2309.13563,
title = {Multivariate Prototype Representation for Domain-Generalized Incremental Learning},
author = {Can Peng and Piotr Koniusz and Kaiyu Guo and Brian C. Lovell and Peyman Moghadam},
journal= {arXiv preprint arXiv:2309.13563},
year = {2023}
}