类增量语义分割中灾难性遗忘的成因
计算机视觉与模式识别
2022-09-19 v1
摘要
面向语义分割的类增量学习（CiSS）目前是一个高度研究的领域，旨在通过对新语义类顺序学习来更新语义分割模型。CiSS中的一个主要挑战是克服灾难性遗忘的影响，其描述了模型在新的一组类上训练后先前学习类的准确率突然下降。尽管在缓解灾难性遗忘方面取得了最新进展，但CiSS中遗忘的潜在成因尚不清晰。因此，通过一组实验与表征分析，我们证明了背景类的语义偏移以及对新类的偏向是CiSS中遗忘的主要成因。此外，我们展示了这两种成因主要体现于网络的较深分类层，而模型的早期层不受影响。最后，我们展示了如何借助背景中包含的信息，利用知识蒸馏与无偏交叉熵损失有效缓解这两种成因。
引用
@article{arxiv.2209.08010,
title = {Causes of Catastrophic Forgetting in Class-Incremental Semantic Segmentation},
author = {Tobias Kalb and Jürgen Beyerer},
journal= {arXiv preprint arXiv:2209.08010},
year = {2022}
}
备注
currently under review