信息的群论模型
信息论
2007-10-08 v1 math.IT
摘要
本文形式化了 Shannon 首次提出的信息元和信息格的概念。利用这一形式化,我们确定了信息格与子群格之间全面的平行关系。定性上,我们证明了信息格与子群格之间的同构。定量上,我们建立了信息格的熵结构与相应子群格的对数指数结构之间的决定性近似关系。这一近似扩展了 Chan 和 Yeung 此前关于联合熵的近似结果。作为我们近似结果的一个推论,我们表明:任何连续律普遍适用于信息元的熵,当且仅当该律普遍适用于子群的对数指数。作为一个应用,通过构造子群反例,我们惊讶地发现,公共信息不同于联合信息,既不服从次模律也不服从超模律。我们要强调,信息元这一概念在概念上具有重要意义——对其形式化有助于揭示信息论与群论之间的深刻联系。本文建立的平行关系提供了一个吸引人的群作用解释,并从群论视角为理解信息元之间的内在结构提供了有益见解。
引用
@article{arxiv.0710.1254,
title = {A Group Theoretic Model for Information},
author = {Hua Li and Edwin K. P. Chong},
journal= {arXiv preprint arXiv:0710.1254},
year = {2007}
}
评论
Submitted to IEEE Transactions on Information Theory