作为因果推断引擎的深度自回归模型
机器学习
2025-07-08 v3 机器学习
摘要
现有的因果推断 (Causal Inference, CI) 模型通常局限于具有低维混杂因子和单一动作的数据。我们提出了一种自回归 (Autoregressive, AR) CI 框架，能够处理现代应用中常见的复杂混杂因子和序列动作。我们的方法通过序列化 (sequencification) 实现这一点，该方法将来自潜在因果图的数据转换为词元序列。序列化不仅能够使用由一大类有向无环图 (DAG) 生成的数据进行训练，还将现有的 CI 能力扩展为使用单一模型估计多个因果量。我们可以直接从干预分布中计算概率，从而简化推断并提高结果预测的准确性。我们证明了，适配于 CI 的 AR 模型在多种复杂应用中是高效且有效的，例如迷宫导航、国际象棋残局对弈，以及评估特定关键词对论文录用率的影响，在这些应用中我们考虑了超越标准强化学习类问题的因果查询。
引用
@article{arxiv.2409.18581,
title = {Deep Autoregressive Models as Causal Inference Engines},
author = {Daniel Jiwoong Im and Kevin Zhang and Nakul Verma and Kyunghyun Cho},
journal= {arXiv preprint arXiv:2409.18581},
year = {2025}
}