TrustFed：在数据隐私约束下实现可信的医学人工智能
机器学习
2026-03-24 v1 计算机与社会
摘要
保护患者隐私仍然是在医疗机构间扩展机器学习的一个根本障碍，由于伦理、法律和监管的限制，集中化敏感数据通常不可行。联邦学习通过实现隐私保护的多机构训练而不共享原始患者数据，提供了一种有前景的替代方案；然而，现实世界的部署面临着数据异质性、站点特定偏差和类别不平衡的严峻挑战，这些挑战降低了预测的可靠性，并使现有的不确定性量化方法失效。在此，我们提出了 TrustFed，一个联邦不确定性量化框架，它在异构和不平衡的医疗数据下提供无分布、有限样本的覆盖保证，且无需集中访问数据。TrustFed 引入了一种表征感知的客户端分配机制，利用内部模型表征实现跨机构的有效校准，以及一种软最近邻阈值聚合策略，在产生紧凑且可靠的预测集的同时减轻分配不确定性。我们使用跨六种临床不同成像模态的超过 430,000 张医学图像，对医学成像中不确定性感知的联邦学习进行了最全面的评估之一，证明了在具有不同类别基数和失衡状况的数据集上具有稳健的覆盖保证。通过在此规模和广度上验证 TrustFed，我们的研究将不确定性感知的联邦学习从概念验证推进到具有临床意义、模态无关的部署，将统计保证的不确定性定位为下一代医疗人工智能系统的核心要求。
引用
@article{arxiv.2603.21656,
title = {TrustFed: Enabling Trustworthy Medical AI under Data Privacy Constraints},
author = {Vagish Kumar and Syed Bahauddin Alam and Souvik Chakraborty},
journal= {arXiv preprint arXiv:2603.21656},
year = {2026}
}