DerMAE：通过条件化扩散模型和 MAE 蒸馏提高皮肤皮损分类
计算机视觉与模式识别
2026-02-24 v1
摘要
皮肤皮损分类数据集常常存在严重的类别不平衡，恶性病例严重不足，导致深度学习训练时决策边界偏斜。我们使用基于类的条件扩散模型生成合成皮肤科图像，然后通过自监督 MAE 预训练，使大规模 ViT 模型能够学习鲁棒且与域相关的特征。为支持实际临床环境中的部署，其中轻量级模型是必需的，我们应用知识蒸馏将这些表示蒸馈到适用于移动设备的较小 ViT 学生模型。我们的结果表明，结合蒸馏的合成数据上的 MAE 预训练能够提高分类性能，同时实现对实际临床应用的高效设备推理。
引用
@article{arxiv.2602.19848,
title = {DerMAE: Improving skin lesion classification through conditioned latent diffusion and MAE distillation},
author = {Francisco Filho and Kelvin Cunha and Fábio Papais and Emanoel dos Santos and Rodrigo Mota and Thales Bezerra and Erico Medeiros and Paulo Borba and Tsang Ing Ren},
journal= {arXiv preprint arXiv:2602.19848},
year = {2026}
}
备注
4 pages, 2 figures, 1 table, isbi2026