基于动量记忆的数据蒸馏在计算病理学中的应用
计算机视觉与模式识别
2026-03-25 v3
摘要
多模态学习通过整合基因组学和组织病理学显示出在癌症诊断中具有强大的潜力，但由于配对组织病理-基因组数据的稀缺性，其临床转化受到阻碍。数据蒸馏（KD）通过将基因组监督信息传递到组织病理学模型中，实现仅使用组织学即可进行精确推断。然而，现有数据蒸馏方法依赖于批次局部对齐，由于批内比较有限导致稳定性问题，最终影响性能。为解决这些限制，我们提出了动量记忆数据蒸馏（MoMKD），这是一种由动量更新记忆驱动的跨模态蒸馏框架。该记忆跨批次聚合基因组和组织病理信息，有效扩大了每个小批次可用的监督上下文。此外，我们解耦了基因组和组织病理分支的梯度，防止基因组信号在训练期间主导组织病理特征学习，并在推理时消除模态差距。在TCGA-BRCA基准（HER2、PR和ODX分类任务）以及独立的室内测试数据集上进行的广泛实验表明，MoMKD consistently优于最新的多任务学习（MIL）和多模态KD基线方法，在仅使用组织学进行推理的情况下实现了卓越的性能和泛化能力。总体而言，MoMKD建立了一个稳健且可推广的数据蒸馏范式，适用于计算病理学。
引用
@article{arxiv.2602.21395,
title = {Momentum Memory for Knowledge Distillation in Computational Pathology},
author = {Yongxin Guo and Hao Lu and Onur C. Koyun and Zhengjie Zhu and Muhammet Fatih Demir and Metin Nafi Gurcan},
journal= {arXiv preprint arXiv:2602.21395},
year = {2026}
}
备注
Accepted by CVPR 2026. Code: https://github.com/CAIR-LAB-WFUSM/MoMKD