人工智能医学影像应用公平性的开放挑战

近期来，计算机化医学影像研究社区开始讨论并应对在开发和部署用于医学图像分析的 AI 系统时可能出现的公平性问题。本章涵盖了该领域从事研究者所面临的一些紧迫挑战，旨在为希望进入该研究领域的研究者提出问题并激发思考。本章首先讨论了各种偏见来源，包括数据收集、模型训练和临床部署，以及这些因素对医学图像计算中机器学习算法公平性的影响。随后我们转而讨论我们认为需要来自研究者和实践者注意的开放性挑战，以及对常见方法不当应用的潜在陷阱。我们涵盖了诸多主题，包括偏差审计中偏差指标的影响、向下水平效应、子群间任务难度差异、发现未见 Population 中的偏见，以及解释超出标准人口统计属性的偏见。