用于疾病进展模拟的医学视频生成
计算机视觉与模式识别
2024-11-20 v1 人工智能
摘要
疾病进展建模对于提升临床诊断与预后的质量和有效性至关重要,但往往因缺乏对患者个体的纵向医学图像监测而受阻。为应对这一挑战,我们提出了首个医学视频生成(MVG)框架,该框架能够对疾病相关的图像和视频特征进行可控操作,从而实现精确、逼真且个性化的疾病进展模拟。我们的方法首先利用大语言模型(LLM)为疾病轨迹重新生成提示词。接着,可控的多轮扩散模型为每位患者模拟疾病进展状态,创建逼真的中间疾病状态序列。最后,基于扩散的视频过渡生成模型在这些状态之间对疾病进展进行插值。我们在三个医学成像领域验证了该框架:胸部X光、眼底摄影和皮肤图像。结果表明,MVG 在生成连贯且临床合理的疾病轨迹方面显著优于基线模型。由资深医生开展的两项用户研究,为所生成序列的临床实用性提供了进一步的验证与见解。MVG 有潜力辅助医疗保健提供者建模疾病轨迹、插补缺失的医学图像数据,并通过逼真、动态的疾病进展可视化来增强医学教育。
引用
@article{arxiv.2411.11943,
title = {Medical Video Generation for Disease Progression Simulation},
author = {Xu Cao and Kaizhao Liang and Kuei-Da Liao and Tianren Gao and Wenqian Ye and Jintai Chen and Zhiguang Ding and Jianguo Cao and James M. Rehg and Jimeng Sun},
journal= {arXiv preprint arXiv:2411.11943},
year = {2024}
}
备注
Tech Report. The appendix will release soon. arXiv admin note: text overlap with arXiv:2309.11745