共同祖先的信息论推断

如果局部马尔可夫条件成立，即每个变量在给定其父节点时独立于其非后代节点，则有向无环图 (DAG) 部分地表示了系统观测值之间的条件独立结构。通常，存在一整类 DAG 表示一组给定的条件独立关系。我们感兴趣的是仅从子系统观测值中可推导出的这类 DAG 的性质。为此，我们证明了一个信息论不等式，该不等式允许在表示某个未知更大系统的任何 DAG 中推断出观测部分的共同祖先。更明确地说，我们表明，观测值之间以互信息形式存在的大量依赖性，暗示存在一个共同祖先来分布该信息。在 DAG 的因果解释中，我们的结果可被视为赖兴巴赫共同原因原理向多于两个变量的定量推广。我们的结论也适用于非概率观测值，例如二进制字符串，因为我们的证明基于互信息的一个公理化概念，该概念同时包含了随机版本和算法版本。