完美重构的信息论必要条件

本文提出了一种基于离散随机变量 $X$ 的一组离散函数的知识来重构 $X$ 的新的信息论条件。该重构条件源自 Shannon 1953 年的格理论以及 Shannon 和 Rajski 的两种熵度量。由于此类理论材料相对不为人知且分散于不同参考文献中，我们首先对其概念（如总量信息、公共信息和互补信息）给出综合性描述（含完整证明）。两种熵度量的定义与性质也予以充分详述，并证明与格结构相容。随后，研究了该格结构的一种新几何解释，由此得到给定由 $X$ 生成的格中元素集合 $\{ X_1,\ldots,X_{n} \}$ 时重构离散随机变量 $X$ 的一个必要（且有时充分）条件。最后，该条件在五个完美重构问题的具体示例中加以说明：由符号和绝对值知识重构对称随机变量、由一组线性组合重构字、由素因数分解（算术基本定理）和由模一组互素整数的余数（中国剩余定理）重构整数，以及由最小成对比较集重构列表的排序置换。