高阶相互作用及其对偶揭示超越香农信息的协同性与逻辑依赖性

信息论量在联合、边缘和条件熵的结构中揭示变量间的依赖关系，但使某些根本不同的系统无法区分。此外，关于如何构造和解释互信息（MI）的高阶推广尚无共识。在本稿件中，我们表明，最近提出的二元变量间高阶相互作用的无模型定义（MFI），如同互信息，是布尔代数上的默比乌斯反演，但是关于惊奇度而非熵的。这赋予了MFI以信息论解释，并由此推广到伊辛相互作用。我们研究了在序反转格上MI与MFI的对偶对象，发现对偶MI与此前研究的差分互信息相关，而对偶相互作用（外相互作用）是相对于不同背景态的相互作用。与互信息不同，内相互作用和外相互作用唯一识别全部六种双输入逻辑门、二三元分布，以及在其香农信息内容上相同但因果动力学不同的系统。