通过视觉Transformer应对医学联邦学习中的数据异质性
计算机视觉与模式识别
2023-11-17 v2
摘要
基于优化的正则化方法在解决医学联邦学习中数据异质性带来的挑战方面一直很有效，特别是在提升代表性不足客户端的性能上。然而，这些方法往往导致整体模型精度降低且收敛速度变慢。在本文中，我们证明使用视觉Transformer（Vision Transformers）能够显著提升代表性不足客户端的性能，而无需在整体精度上做出显著权衡。这一改进归因于视觉Transformer捕捉输入数据内部长程依赖关系的能力。
引用
@article{arxiv.2310.09444,
title = {Tackling Heterogeneity in Medical Federated learning via Vision Transformers},
author = {Erfan Darzi and Yiqing Shen and Yangming Ou and Nanna M. Sijtsema and P. M. A van Ooijen},
journal= {arXiv preprint arXiv:2310.09444},
year = {2023}
}