增量学习遇见迁移学习：在多站点前列腺MRI分割中的应用
计算机视觉与模式识别
2022-08-02 v2 人工智能
机器学习
图像与视频处理
摘要
近来已创建了许多用于医学图像分割任务的医学数据集，自然会质疑我们能否利用它们顺序训练单一模型，以（1）在所有这些数据集上表现更优，且（2）泛化良好并更好地迁移至未知目标站点域。已有工作通过在一个多站点数据集上联合训练一个模型来实现该目标，其平均性能具有竞争力，但此类方法依赖于所有训练数据可用的假设，从而限制了其在实际部署中的有效性。本文提出一种称为增量-迁移学习（ITL）的新型多站点分割框架，该框架以端到端顺序方式从多站点数据集学习模型。具体而言，“增量”指对顺序构建的数据集进行训练，“迁移”通过利用各数据集上嵌入特征线性组合的有用信息来实现。此外，我们引入ITL框架，其中训练的网络包含一个带预训练权重的站点无关编码器以及至多两个分割解码器头。我们还设计了一种新颖的站点级增量损失，以在目标域上良好泛化。其次，我们首次表明利用ITL训练方案能够缓解增量学习中具有挑战性的灾难性遗忘问题。我们使用五个具挑战性的基准数据集开展实验，以验证我们增量-迁移学习方法的有效性。我们的方法对计算资源与领域专业知识作出最小假设，因而构成多站点医学图像分割的一个强起点。
引用
@article{arxiv.2206.01369,
title = {Incremental Learning Meets Transfer Learning: Application to Multi-site Prostate MRI Segmentation},
author = {Chenyu You and Jinlin Xiang and Kun Su and Xiaoran Zhang and Siyuan Dong and John Onofrey and Lawrence Staib and James S. Duncan},
journal= {arXiv preprint arXiv:2206.01369},
year = {2022}
}