公共信息维度

一组随机变量 $X_1,...,X_n$ 的精确公共信息定义为允许对 $X_1,...,X_n$ 进行精确分布式模拟的共享随机变量的最小熵。已有研究表明，在某些情况下，需要无限熵才能实现分布式模拟，这意味着此类场景可能需要连续随机变量。然而，迄今为止尚无既定度量来刻画这类情况。本文提出了关于给定函数类 $\mathcal{F}$ 的公共信息维度（Common Information Dimension, CID）概念，其定义为分布式模拟一组随机变量 $X_1,...,X_n$ 所需随机变量 $W$ 的最小维度，且 $W$ 可借助 $\mathcal{F}$ 中某一成员表示为 $X_1,\cdots,X_n$ 的函数。我们的主要贡献包括以闭式计算联合高斯随机向量在 $\mathcal{F}$ 为线性函数类时的公共信息维度。