因果制图师：从映射到反事实世界上的推理

因果世界模型是能够回答关于感兴趣环境的反事实问题的系统，即预测如果事件的任意子集以不同方式实现，环境将如何演化。这需要理解事件链背后的潜在原因，并对任意未见分布进行因果推断。到目前为止，这一任务对基础模型（尤其是大型语言模型，LLM）而言仍难以实现，因为它们除了记忆现有因果关系外，尚未展现出超越此的因果推理能力。此外，在实际应用中评估反事实具有挑战性，因为只能观察到事实世界，这限制了评估只能针对合成数据集。我们通过显式提取和建模因果关系来解决这些问题，并提出了因果制图师框架。首先，我们引入了一个图检索增强生成代理，其任务是从数据中检索因果关系。这种方法允许我们构建一个大型真实世界因果关系网络，可作为因果知识的存储库，并构建真实世界的反事实。此外，我们创建了一个受因果关系约束的反事实推理代理，以执行可靠的逐步因果推断。我们表明，我们的方法能够提取因果知识，并提高 LLM 在因果推理任务中的鲁棒性，同时降低推理成本和虚假相关性。