医学影像 AI 中的可扩展漂移监控
图像与视频处理
2024-10-21 v2 计算机视觉与模式识别
机器学习
摘要
将人工智能 (AI) 集成到医学影像中已推动了临床诊断，但也带来了模型漂移和确保长期可靠性的挑战。为此，我们开发了 MMC+，这是一种基于 CheXstray 框架的增强型可扩展漂移监控框架。CheXstray 框架最初引入了利用多模态数据一致性进行医学影像 AI 模型实时漂移检测的方法。本工作扩展了原始框架的方法，提供了一种更加可扩展和可适应的解决方案，适用于实际医疗环境，同时为持续性能监控提供了一个可靠且具有成本效益的替代方案，以克服连续监控和定期监控方法的局限性。MMC+ 对原始框架进行了关键性改进，包括对多样化数据流的更稳健的处理、通过集成像如 MedImageInsight 等基础模型来实现高维图像嵌入的可扩展性（无需按站点进行训练），以及引入不确定性边界以更好地捕捉动态临床环境中的漂移。使用新冠疫情期间马萨诸塞 General 医院的真实数据，我们验证了 MMC+ 能够有效检测到显著的数据偏移，并将其与模型性能变化相关联。虽然 MMC+ 不能直接预测性能下降，但它作为早期警报系统，指示 AI 系统可能偏离可接受的性能范围，从而实现及时干预。通过强调监控多样化数据流和评估数据偏移与模型性能的重要性，本工作促进了 AI 解决方案在临床环境中的更广泛采用和集成。
引用
@article{arxiv.2410.13174,
title = {Scalable Drift Monitoring in Medical Imaging AI},
author = {Jameson Merkow and Felix J. Dorfner and Xiyu Yang and Alexander Ersoy and Giridhar Dasegowda and Mannudeep Kalra and Matthew P. Lungren and Christopher P. Bridge and Ivan Tarapov},
journal= {arXiv preprint arXiv:2410.13174},
year = {2024}
}