路径权重采样：随机轨迹间互信息的精确蒙特卡洛计算

大多数自然和工程信息处理系统通过随时间变化的信号来传输信息。计算这些信息传输速率或编码于信号时间特征中的信息，需要输入与输出信号之间作为时间函数的互信息，即输入与输出轨迹之间的互信息。然而，由于轨迹空间的高维性质，这向来十分困难，且所有现有技术都需要近似。我们提出一种称为路径权重采样（Path Weight Sampling, PWS）的精确蒙特卡洛技术，首次使得计算由主方程描述的任意随机系统的输入与输出轨迹间的互信息成为可能。其核心思想是利用主方程评估给定输入轨迹下单个输出轨迹的精确条件概率，并通过轨迹空间中的蒙特卡洛采样对其求平均以获得互信息。我们提出 PWS 的三种变体，它们均使用标准随机模拟算法生成轨迹。其中直接 PWS 是一种暴力方法，Rosenbluth-Rosenbluth PWS 利用了信号轨迹采样与聚合物采样之间的类比，而热力学积分 PWS 基于轨迹空间中的可逆功计算。PWS 还可用于计算具有隐藏内部状态的系统以及具有从输出到输入反馈的系统之输入与输出轨迹间的互信息。将 PWS 应用于由 182 个耦合化学反应组成的细菌趋化系统，不仅表明该方案极为高效，还表明受体簇的数量远少于此前认为的数目，而其尺寸则远大于此前认为。