面向皮肤病诊断的联邦自监督对比学习与掩码自编码器
机器学习
2022-08-25 v1 密码学与安全
图像与视频处理
摘要
在皮肤病诊断中,移动皮肤科助手收集的私有数据存在于患者的分布式移动设备上。联邦学习(FL)可在保持数据本地化的同时使用去中心化数据训练模型。现有 FL 方法假设所有数据均有标签。然而,由于标注成本高,医疗数据常常没有完整标签。自监督学习(SSL)方法,如对比学习(CL)和掩码自编码器(MAE),可利用无标签数据预训练模型,再用有限标签微调。然而,将 SSL 与 FL 结合存在独特挑战。例如,CL 需要多样化数据,但每个设备仅有有限数据。对于 MAE,尽管基于 Vision Transformer (ViT) 的 MAE 在集中式学习中比 CNN 精度更高,但 MAE 在带有无标签数据的 FL 中的表现尚未被研究。此外,ViT 在服务器与客户端之间的同步不同于传统 CNN,因此需要设计特殊的同步方法。本工作中,我们提出两个用于标签有限的皮肤病诊断的联邦自监督学习框架。第一个计算成本较低,适用于移动设备。第二个精度高,适合高性能服务器。基于 CL,我们提出带特征共享的联邦对比学习(FedCLF),在不共享原始数据以保护隐私的前提下共享特征以获取多样化对比信息。基于 MAE,我们提出 FedMAE,知识切分分离从各客户端学习的全局与局部知识,仅聚合全局知识以获得更高泛化性能。在皮肤病数据集上的实验表明所提框架优于现有最优方法。
引用
@article{arxiv.2208.11278,
title = {Federated Self-Supervised Contrastive Learning and Masked Autoencoder for Dermatological Disease Diagnosis},
author = {Yawen Wu and Dewen Zeng and Zhepeng Wang and Yi Sheng and Lei Yang and Alaina J. James and Yiyu Shi and Jingtong Hu},
journal= {arXiv preprint arXiv:2208.11278},
year = {2022}
}
备注
arXiv admin note: substantial text overlap with arXiv:2202.07470