含隐变量有向无环图中由 $e$-分离关系导出的熵不等式约束
机器学习
2023-02-23 v3 机器学习
摘要
含隐变量的有向无环图（DAG）常用于刻画系统中变量间的因果关系。当部分变量未被观测时，DAG 对观测变量分布隐含着一组 notoriously 复杂的约束。本文中，我们给出了含离散观测变量的隐变量 DAG 中由 -分离关系所隐含的熵不等式约束。这些约束可直观地理解为：沿因果路径的变量传递信息的能力受其熵的限制；例如在极端情况下，熵为 的变量无法传递任何信息。我们展示了如何利用这些约束从观测数据分布中学习真实的因果模型。此外，我们提出了一种称为极小中介熵的因果影响度量，并证明其可以补充平均因果效应等传统度量。
引用
@article{arxiv.2107.07087,
title = {Entropic Inequality Constraints from $e$-separation Relations in Directed Acyclic Graphs with Hidden Variables},
author = {Noam Finkelstein and Beata Zjawin and Elie Wolfe and Ilya Shpitser and Robert W. Spekkens},
journal= {arXiv preprint arXiv:2107.07087},
year = {2023}
}
备注
18 pages. New in v3: Minor changes to the main text, substantial revisions to the proofs in Appendix C. We thank Robin Evans for motivating the most significant changes since v2