分块中：模块化情境学习中的因果推理
人工智能
2025-08-01 v1
摘要
因果推断是大型语言模型面临的基本挑战。近期在大型语言模型内部推理方面的进展激发了人们对是否可以让具有状态的推理模型在数据扰动下稳健地执行因果发现——这一是常规模型常因严重过拟合和近随机表现而受限的任务——的兴趣。我们在 Corr2Cause 基准上进行因果发现研究，使用从涌现的 OpenAI o 系列和 DeepSeek-R 模型家族，发现这些以推理为导向的架构的原生收益显著高于先前方法。为了充分利用这些优势，我们引入了一个受 Tree-of-Thoughts 和 Chain-of-Thoughts 方法启发的模块化情境管线，实现了对常规基线几乎三倍的改进。我们进一步通过分析推理链长度、复杂度，并对常规模型和推理模型进行定性和定量比较来探讨管线的影响。我们的发现表明，虽然先进的推理模型代表了巨大的进步，但 carefully 结构化的情境框架对于最大化其能力至关重要，并为因果发现在不同领域提供了通用蓝图。
引用
@article{arxiv.2507.23488,
title = {Causal Reasoning in Pieces: Modular In-Context Learning for Causal Discovery},
author = {Kacper Kadziolka and Saber Salehkaleybar},
journal= {arXiv preprint arXiv:2507.23488},
year = {2025}
}