负责任且符合监管的医学机器学习：挑战与解决方案综述

机器学习有望显著改善医疗护理。为确保仁慈、尊重人类自主、防止伤害、公正、隐私与透明等基本原则得到尊重，必须以负责任的方式开发医学机器学习系统。为此已提出诸多高层伦理原则宣言，但严重缺乏阐明医学机器学习实际后果的技术指南。同样，目前关于医学机器学习系统所面临确切监管要求存在相当不确定性。本综述概述了负责任且符合现有法规地创建医学机器学习系统所涉及的技术与流程挑战，以及应对这些挑战的可能方案。首先，简要回顾影响医学机器学习的现有法规，表明安全性、鲁棒性、可靠性、隐私性、安全性、透明性、可解释性与非歧视性等属性已为现行法律法规所要求——尽管在许多情况下程度不明。接着，讨论了实现这些期望属性的关键技术障碍，以及在医学背景下克服这些障碍的重要技术。我们注意到分布偏移、伪相关、模型欠规范、不确定性量化与数据稀缺在医学背景下构成严峻挑战。有前景的解决方案包括使用大型且具有代表性的数据集以及作为实现手段的联邦学习、审慎利用领域知识、使用内在透明模型、全面的分布外模型测试与验证，以及算法影响评估。