信息转移与因果关系的统一理论
统计力学
2022-04-29 v1 信息论
机器学习
math.IT
数据分析、统计与概率
摘要
由转移熵和信息流度量的耦合随机动力学之间的信息转移，被认为是系统因果关系背后的物理过程。尽管信息转移分析在科学与工程领域有着蓬勃的应用，但其基础的关键谜团仍未解决。根本而困难的问题涉及信息转移与因果关系如何产生、依赖于什么、彼此有何不同，以及它们是否由统一而普遍的量化所创造。这些问题本质上决定了通过信息转移测量因果关系的有效性。在此我们致力于奠定信息转移与因果关系的完整理论基础。除了这些概念之间条件成立的已知关系外，我们证明了信息转移与因果关系普遍源于由高阶互信息表征的特定信息协同与冗余现象。更重要的是，我们的理论解析地解释了信息转移与因果关系产生、消失以及彼此区分的机制。此外，我们的理论自然地基于高维耦合事件定义了信息转移与因果关系的效应量。这些结果可能为信息、协同与因果关系提供统一视角，以桥接计算机科学中 Pearl 的因果推断理论与物理学中的信息转移分析。
引用
@article{arxiv.2204.13598,
title = {A unified theory of information transfer and causal relation},
author = {Yang Tian and Hedong Hou and Yaoyuan Wang and Ziyang Zhang and Pei Sun},
journal= {arXiv preprint arXiv:2204.13598},
year = {2022}
}