基于信使蒸馏的异构协同学习用于个性化医疗分析
分布式、并行与集群计算
2023-02-21 v4
摘要
本文提出一种基于相似度-质量的信使蒸馏（SQMD）框架，用于异构异步设备端医疗分析。通过引入预加载的参考数据集，SQMD 使所有参与设备能够经由信使（即由客户端生成的参考数据集的软标签）蒸馏来自对等端的知识，而无需假设相同的模型架构。此外，信使还携带重要的辅助信息以计算客户端间的相似度并评估每个客户端模型的质量，中央服务器基于此创建并维护动态协作图（通信图），从而在异步条件下提升 SQMD 的个性化与可靠性。在三个真实数据集上的大量实验表明 SQMD 取得了优越性能。
引用
@article{arxiv.2205.13705,
title = {Heterogeneous Collaborative Learning for Personalized Healthcare Analytics via Messenger Distillation},
author = {Guanhua Ye and Tong Chen and Yawen Li and Lizhen Cui and Quoc Viet Hung Nguyen and Hongzhi Yin},
journal= {arXiv preprint arXiv:2205.13705},
year = {2023}
}