信息论与所有离散系统的长度分布

我们从一个非凡的观察开始：UniProt（通用蛋白质资源）中8000万蛋白质的长度分布（以氨基酸度量）在各级尺度上，与以编程语言标记度量的大型计算机函数集合的长度分布在性质上相同。这两个如此迥异的离散系统共享重要结构特性，暗示其他明显不相关的离散系统可能共享相同特性，当然也引出了一个解释。我们证明，这对于所有由标记或符号构建组件的离散系统都是不可避免的。通过将对Hartley-Shannon信息守恒(CoHSI)的嵌入置于经典统计力学框架中，我们识别出两类离散系统：异质和同质。异质系统包含由唯一标记字母表构建的组件，产生具有尖锐单峰峰并逐渐趋于幂律的隐式CoHSI分布。同质系统包含每个仅由对该组件唯一的单一类型标记构建的组件，产生对应于齐夫定律的CoHSI分布。该理论应用于异质系统（蛋白质组、计算机软件、音乐）；同质系统（语言文本、元素丰度）；以及异质与同质行为共存的系统（语言文本中的词频和词长频率）。在每种情况下，理论预测都经过检验并受到高度统计显著性的支持。我们还表明，在同一异质系统中，不同但一致的字母表必须由幂律关联。我们通过在大量音乐体上排除和包含音符时值来定义唯一音符字母表，证明了这一点。