Rate-My-LoRA：面向心脏 MRI 分割的高效自适应联邦模型调优
计算机视觉与模式识别
2025-01-07 v1 分布式、并行与集群计算
机器学习
摘要
心血管疾病 (CVD) 和心脏同步失调是美国的重大公共卫生问题。精确的心脏图像分割对于提取有助于分类心脏同步失调的定量措施至关重要。然而，实现高精度往往依赖于来自不同医院的大规模数据集集中处理，这由于隐私顾虑而具有挑战性。为解决此问题，提出了联邦学习 (FL) 以在不交换敏感信息的前提下对此类数据进行分布式训练。然而，带宽限制和数据异构性仍是传统 FL 算法中的重要挑战。本文提出了一种新型高效自适应的联邦学习方法，用于心脏分割，该方法在提高模型性能的同时降低带宽要求。我们利用低秩适应 (LoRA) 对模型权重进行正则化，以减少通信开销。我们还提出了一种 \mymethod{} 聚合技术，以解决客户端之间的数据异构性问题。该技术通过比较各客户端的验证准确率，对来自不同客户端的聚合权重进行自适应惩罚，从而实现更好的泛化性能和快速的本地适应。在来自公共心脏 MRI 数据集的客户端内外评估表明，我们的方法优于其他基于 LoRA 的联邦学习方法。
引用
@article{arxiv.2501.03223,
title = {Rate-My-LoRA: Efficient and Adaptive Federated Model Tuning for Cardiac MRI Segmentation},
author = {Xiaoxiao He and Haizhou Shi and Ligong Han and Chaowei Tan and Bo Liu and Zihao Xu and Meng Ye and Leon Axel and Kang Li and Dimitris Metaxas},
journal= {arXiv preprint arXiv:2501.03223},
year = {2025}
}
备注
Accepted in ISBI 2025