面向医学影像人工智能中偏倚的客观与系统评估

使用医学影像训练用于临床任务的人工智能（AI）模型，常表现出以子组间性能差异为形式的偏倚。由于真实世界医学影像数据中的偏倚来源并非都易于识别，全面评估这些偏倚如何被编码进模型，以及偏倚缓解方法在改善性能差异方面的能力颇具挑战。在本文中，我们引入了一种新颖的分析框架，用于系统且客观地研究医学影像中偏倚对 AI 模型的影响。我们开发并测试了该框架，利用一种生成具有已知疾病效应与偏倚来源的合成磁共振影像的工具，开展受控的计算机模拟试验以评估医学影像 AI 中的偏倚。通过三种反事实偏倚场景测量模拟偏倚效应对卷积神经网络（CNN）分类器的影响及三种偏倚缓解策略的有效性，展示了可行性。分析揭示，当 CNN 在合成数据集上训练时，模拟偏倚导致了预期的子组性能差异。此外，重新加权被确定为该设置下最成功的偏倚缓解策略，并且我们展示了可解释 AI 方法如何借助该框架辅助调查模型中偏倚的表现形式。鉴于医学影像数据集中可能存在众多且常未知的偏倚来源，开发公平的 AI 模型是一项重大挑战。在这项工作中，我们提出了一种新颖的方法学，用于客观研究偏倚与缓解策略对深度学习流程的影响，可支持开发稳健且负责任的临床 AI。