基于递归与注意力模型及NVFlare的多站点临床联邦学习
机器学习
2023-06-29 v1 计算与语言
分布式、并行与集群计算
摘要
数字健康数据的迅猛增长引发了人们对利用机器学习方法（如自然语言处理（NLP））来审视医疗记录、临床笔记及其他基于文本的健康信息的日益浓厚的兴趣。尽管NLP技术在改善患者护理和辅助临床决策方面已展现出巨大潜力，但数据隐私与法规遵从仍是关键关切。联邦学习（FL）成为一种可行的解决方案，使多个机构能够在不传播原始数据的情况下协作训练机器学习模型。本文通过融合FL、NLP模型以及由NVIDIA开发的NVFlare框架，提出了一种务实的医疗NLP方法。我们引入了两个示范性NLP模型：基于长短期记忆（LSTM）的模型和来自变换器的双向编码器表示（BERT），它们在理解医疗数据中的上下文与语义方面表现出卓越性能。本文涵盖了一个集成框架的开发，该框架在保持高准确度与性能的同时应对数据隐私与法规遵从挑战，并融入了BERT预训练，且全面证实了所提方法的有效性。
引用
@article{arxiv.2306.16367,
title = {Multi-Site Clinical Federated Learning using Recursive and Attentive Models and NVFlare},
author = {Won Joon Yun and Samuel Kim and Joongheon Kim},
journal= {arXiv preprint arXiv:2306.16367},
year = {2023}
}