中文

组织复杂性与语义信息理论的统一范式

信息论 2016-08-03 v1 math.IT 适应与自组织系统 元胞自动机与格子气 定量方法

摘要

科学中最基本的问题之一是\textit{定量}地定义组织物质的复杂性,即\textit{组织复杂性}。尽管过去几十年已提出多种度量方法,但尚未达成统一定义。本文提出了组织复杂性的新定量定义。该定义\textit{同时}捕捉了复杂性的三个主要特征:计算性(类似于逻辑深度)、描述性(类似于柯尔莫哥洛夫复杂性和有效复杂性)以及分布性(类似于统计复杂性)。此外,所提出的定义是可计算的,并能以统一方式度量对象的概率形式和确定性形式。该定义基于电路而非图灵机和 ϵ\epsilon-机器。我们给出了组织复杂性度量所需的若干准则,并首次证明所提出的定义满足所有这些准则。随后,我们应用这一定量定义构建了\textit{语义信息理论}。我们提出了\textit{语义信息量}的首个形式化定义,这是语义信息理论的核心概念,且仅基于具体定义的概念。以往的语义信息理论是在某些未具体说明的先验信息下定义该量的。接着,我们揭示了语义信息理论中的若干基本性质,例如语义信源编码定理、语义信道编码定理和有效性编码定理。尽管语义信息理论的研究历史长达六十多年,但尚无研究探讨其与组织复杂性的关系。本文提供了组织复杂性与语义信息理论的首个统一范式。

关键词

引用

@article{arxiv.1608.00941,
  title  = {A Unified Paradigm of Organized Complexity and Semantic Information Theory},
  author = {Tatsuaki Okamoto},
  journal= {arXiv preprint arXiv:1608.00941},
  year   = {2016}
}

备注

23 pages