面向跨站点持续分割的同步记忆性与泛化性:基于站点调制扩散回放
计算机视觉与模式识别
2025-04-28 v3
摘要
由于隐私限制和存储限制,深度网络在解决实际医学图像诊断问题时,从不同数据站点顺序学习的能力至关重要。然而,适应新站点会导致对旧站点的灾难性遗忘,并降低对未见站点的泛化能力。现有的持续学习(CL)和领域泛化(DG)方法分别被提出来解决这两个挑战,但没有任何方法能同时解决两者。认识到这一局限性,本文提出了一种新颖的训练范式——面向同步记忆性与泛化性的学习(SMG-Learning)。为实现此目标,我们创建了定向梯度对齐以确保对先前站点的记忆性,以及任意梯度对齐以增强对未见站点的泛化性。这种方法被称为并行梯度对齐(PGA)。此外,我们使用一阶泰勒展开将PGA近似为双重元目标,以降低对齐梯度的计算成本。考虑到由于隐私约束,执行梯度对齐(尤其是对先前站点)不可行,我们设计了一个站点调制扩散(SMD)模型,用于生成带有站点特定可学习提示的图像,回放的图像具有与先前站点相似的数据分布。我们在两个医学图像分割任务上评估了我们的方法,其中来自不同站点的数据顺序到达。实验结果表明,我们的方法比其它最先进的方法更有效地增强了记忆性和泛化性,在所有站点上都提供了令人满意的性能。我们的代码将在以下网址提供:https://github.com/dyxu-cuhkcse/SMG-Learning。
引用
@article{arxiv.2406.18037,
title = {Towards Synchronous Memorizability and Generalizability with Site-Modulated Diffusion Replay for Cross-Site Continual Segmentation},
author = {Dunyuan Xu and Xi Wang and Jingyang Zhang and Pheng-Ann Heng},
journal= {arXiv preprint arXiv:2406.18037},
year = {2025}
}
备注
This paper is not proper to be published on arXiv, since we think some method are quite similar with one other paper