基于拓扑排序的扩散模型因果发现方法
机器学习
2023-06-27 v2 人工智能
摘要
在附加假设下，从观测数据中发现因果关系成为可能，例如考虑函数关系约束为带加性噪声的非线性（ANM）。即便有强假设，因果发现仍涉及在有向无环图（DAGs）空间上的昂贵搜索问题。拓扑排序方法通过搜索置换而非图空间，缩减了因果优化的空间。对于ANM，数据对数似然的Hessian可用于寻找因果图中的叶节点，从而实现拓扑排序。然而，现有的获取Hessian的计算方法仍无法随变量数和样本数增加而扩展。因此，受扩散概率模型（DPMs）近期创新的启发，我们提出DiffAN，一种利用DPMs学习Hessian函数的拓扑排序算法。我们引入了无需重新训练神经网络即可更新所学Hessian的理论，并表明使用样本子集进行计算可准确近似排序，从而能扩展到具有更多样本和变量的数据集。我们从经验上证明，我们的方法对多达个节点和多达个样本的数据集扩展性极好，同时在小数据集上仍与最先进的因果发现方法性能相当。实现见https://github.com/vios-s/DiffAN。
引用
@article{arxiv.2210.06201,
title = {Diffusion Models for Causal Discovery via Topological Ordering},
author = {Pedro Sanchez and Xiao Liu and Alison Q O'Neil and Sotirios A. Tsaftaris},
journal= {arXiv preprint arXiv:2210.06201},
year = {2023}
}
备注
Implementation is available at https://github.com/vios-s/DiffAN Published as a conference paper at ICLR 2023 https://openreview.net/forum?id=Idusfje4-Wq