学习可辨识结构有助于避免 DNN 基于监督因果学习中的偏差
机器学习
2025-02-18 v1 人工智能
统计方法学
摘要
因果发现是旨在基于数据样本预测变量之间因果关系的结构预测任务。监督因果学习 (SCL) 是该领域的一种新兴范式。现有的基于深度神经网络 (DNN) 的方法通常采用“节点-边”方法，即首先为每个变量节点计算嵌入向量，然后利用这些变量级表示同时且独立地预测每条有向因果边。本文首先展示了该体系结构存在某些系统性偏差，无论模型规模或数据规模如何均无法被缓解。我们随后提出 SiCL，一种基于 DNN 的 SCL 方法，预测一个骨架矩阵以及 v 张量（表示 v 结构的第三阶张量）。根据马尔可夫等价类 (MEC) 理论，骨架和 v 结构在标准 MEC 设置下均为可辨识的因果结构，因此关于骨架和 v 结构的预测不受因果发现中可辨识性限制，从而 SiCL 能够避免节点-边体系结构中的系统性偏差，并实现因果发现的一致估计器。此外，SiCL 还配备了专门设计的成对编码器模块，带有单向注意力层以建模节点对的内部与外部关系。在合成数据和真实世界基准测试上实验结果表明，SiCL 在其他基于 DNN 的 SCL 方法中显著优于所有方法。
引用
@article{arxiv.2502.10883,
title = {Learning Identifiable Structures Helps Avoid Bias in DNN-based Supervised Causal Learning},
author = {Jiaru Zhang and Rui Ding and Qiang Fu and Bojun Huang and Zizhen Deng and Yang Hua and Haibing Guan and Shi Han and Dongmei Zhang},
journal= {arXiv preprint arXiv:2502.10883},
year = {2025}
}