中文

语义通信的数学理论:综述

信息论 2024-01-26 v1 math.IT

摘要

语义通信为未来通信开辟了一个新方向。在本文中,我们旨在建立一个语义信息论 (SIT) 的系统框架。首先,我们提出了一个语义通信模型,并定义了同义映射来指示语义信息与句法信息之间的关键关系。基于这一核心概念,我们引入了语义信息的度量,例如语义熵 Hs(U~)H_s(\tilde{U})、上/下语义互信息 Is(X~;Y~)I^s(\tilde{X};\tilde{Y}) (Is(X~;Y~))(I_s(\tilde{X};\tilde{Y}))、语义容量 Cs=maxp(x)Is(X~;Y~)C_s=\max_{p(x)}I^s(\tilde{X};\tilde{Y}) 以及语义率失真函数 Rs(D)=minp(x^x):Eds(x~,x~^)DIs(X~;X~^)R_s(D)=\min_{p(\hat{x}|x):\mathbb{E}d_s(\tilde{x},\hat{\tilde{x}})\leq D}I_s(\tilde{X};\hat{\tilde{X}})。此外,我们证明了 SIT 的三个编码定理,即语义信源编码定理、语义信道编码定理和语义率失真编码定理。我们发现,信息论的极限通过使用同义关系得到了扩展,即 Hs(U~)H(U)H_s(\tilde{U})\leq H(U)CsCC_s\geq CRs(D)R(D)R_s(D)\leq R(D)。所有这些工作构成了语义信息论的基础。总之,本文提出的理论框架是经典信息论的自然延伸,并可能揭示未来通信的巨大性能潜力。

关键词

引用

@article{arxiv.2401.14160,
  title  = {A Mathematical Theory of Semantic Communication: Overview},
  author = {Kai Niu and Ping Zhang},
  journal= {arXiv preprint arXiv:2401.14160},
  year   = {2024}
}

备注

6 pages, 2 figures. This paper is submitted to the 2024 IEEE International Symposium on Information Theory (ISIT 2024). arXiv admin note: substantial text overlap with arXiv:2401.13387