DeepImagine：通过连续反事实想象学习生物医学推理
计算与语言
2026-04-28 v1 人工智能
机器学习
摘要
预测前瞻性临床试验的结果是大型语言模型面临的主要挑战。以往工作表明，无论是传统的相关性预测器（如随机森林和逻辑回归），还是强大的商业级大语言模型（LLM），在此任务上均表现有限。本文提出DeepImagine框架，通过连续反事实想象教授大语言模型生物医学推理。核心思想是通过训练模型推断在实验条件发生受控扰动（如剂量、结果测量、研究 Arms、地理位置及其他试验属性）下的观察试验结果将如何变化，以此近似隐藏的临床试验因果机制。为支持此目标，我们从真实临床试验中构建了自然反事实对和近似反事实对。对于严格反事实监督可获得的情境（如相同试验中的配对结果测量或剂量递增研究 Arms），我们采用监督微调训练模型。对于只能获取近似反事实对的更广泛情境，我们采用基于下游基准正确性的可验证奖励进行强化学习优化。我们进一步通过提供用于解释局部反事实转换因果合理性解释的合成推理痕迹来增强训练。使用该管道，我们训练了参数不足100亿的语言模型，包括Qwen3.5-9B，在临床试验结果预测任务上进行评估。我们旨在表明DeepImagine在不调优的语言模型和传统相关性基线上 consistently取得改进。最后，我们旨在表明所学到的推理轨迹为模型如何表示试验层面机制提供可解释信号，指向更具机制性和实用性的生物医学语言模型的实用路径。
引用
@article{arxiv.2604.23054,
title = {DeepImagine: Learning Biomedical Reasoning via Successive Counterfactual Imagining},
author = {Youze Zheng and Jianyou Wang and Yuhan Chen and Matthew Feng and Longtian Bao and Hanyuan Zhang and Maxim Khan and Aditya K. Sehgal and Christopher D. Rosin and Umber Dube and Ramamohan Paturi},
journal= {arXiv preprint arXiv:2604.23054},
year = {2026}
}
备注
Preprint. Work in Progress