医学联邦学习、伦理与医疗 AI 中的双黑箱问题
机器学习
2026-04-10 v1 人工智能
计算机与社会
人机交互
摘要
联邦学习（FL）是一种机器学习方法，允许多个设备或机构在不与第三方共享其本地数据的情况下协同训练模型。联邦学习被视为解决医疗人工智能中患者隐私 concerns 的有前景的方法。然而，医疗联邦学习系统本身的伦理风险迄今为之已被充分考察。本文旨在弥补这一空白。我们认为，医疗联邦学习呈现出一种新的不透明形式——联邦不透明（federation opacity），从而在医疗保健 AI 中生成一种独特的双黑箱问题。我们指出了几种可能夸大医疗联邦学习预期收益的情形，并通过指出必须克服的关键挑战，总结了要使医疗联邦学习在伦理上可行的关键要素。
引用
@article{arxiv.2504.20656,
title = {Federated learning, ethics, and the double black box problem in medical AI},
author = {Joshua Hatherley and Anders Søgaard and Angela Ballantyne and Ruben Pauwels},
journal= {arXiv preprint arXiv:2504.20656},
year = {2026}
}