中文

用于高维因果推断的深度因果生成模型的模块化学习

机器学习 2024-10-29 v2 人工智能 信息论 math.IT 统计方法学 机器学习

摘要

已经提出了完备且正确的算法,利用因果结构和数据来计算可识别的因果查询。然而,这些算法大多假设数据分布的准确估计,这对于高维变量(如图像)是不切实际的。另一方面,现代深度生成架构可以训练以从高维分布中采样。然而,训练这些网络通常非常昂贵。因此,利用预训练模型来回答使用此类高维数据的因果查询是可取的。为了解决这个问题,我们提出了深度因果生成模型的模块化训练,这不仅使学习更高效,还允许我们利用大型预训练条件生成模型。据我们所知,我们的算法Modular-DCM是第一个给定因果结构、使用对抗训练学习网络权重,并且可以利用预训练模型在存在潜在混淆变量的情况下可证明地从任何可识别因果查询中采样的算法。通过在Colored-MNIST数据集上的大量实验,我们证明了我们的算法优于基线。我们还展示了我们的算法在COVIDx数据集上的收敛性,以及在CelebA-HQ上的因果不变预测问题中的实用性。

关键词

引用

@article{arxiv.2401.01426,
  title  = {Modular Learning of Deep Causal Generative Models for High-dimensional Causal Inference},
  author = {Md Musfiqur Rahman and Murat Kocaoglu},
  journal= {arXiv preprint arXiv:2401.01426},
  year   = {2024}
}