中文

用于疾病进展模拟的医学视频生成

计算机视觉与模式识别 2024-11-20 v1 人工智能

摘要

疾病进展建模对于提升临床诊断与预后的质量和有效性至关重要,但往往因缺乏对患者个体的纵向医学图像监测而受阻。为应对这一挑战,我们提出了首个医学视频生成(MVG)框架,该框架能够对疾病相关的图像和视频特征进行可控操作,从而实现精确、逼真且个性化的疾病进展模拟。我们的方法首先利用大语言模型(LLM)为疾病轨迹重新生成提示词。接着,可控的多轮扩散模型为每位患者模拟疾病进展状态,创建逼真的中间疾病状态序列。最后,基于扩散的视频过渡生成模型在这些状态之间对疾病进展进行插值。我们在三个医学成像领域验证了该框架:胸部X光、眼底摄影和皮肤图像。结果表明,MVG 在生成连贯且临床合理的疾病轨迹方面显著优于基线模型。由资深医生开展的两项用户研究,为所生成序列的临床实用性提供了进一步的验证与见解。MVG 有潜力辅助医疗保健提供者建模疾病轨迹、插补缺失的医学图像数据,并通过逼真、动态的疾病进展可视化来增强医学教育。

关键词

引用

@article{arxiv.2411.11943,
  title  = {Medical Video Generation for Disease Progression Simulation},
  author = {Xu Cao and Kaizhao Liang and Kuei-Da Liao and Tianren Gao and Wenqian Ye and Jintai Chen and Zhiguang Ding and Jianguo Cao and James M. Rehg and Jimeng Sun},
  journal= {arXiv preprint arXiv:2411.11943},
  year   = {2024}
}

备注

Tech Report. The appendix will release soon. arXiv admin note: text overlap with arXiv:2309.11745