受限玻尔兹曼机的非平衡热力学

在本工作中，我们在无监督学习的背景下分析了一类被称为受限玻尔兹曼机（RBM）的神经网络的非平衡热力学。我们展示了如何将网络描述为离散马尔可夫过程，以及细致平衡条件和麦克斯韦 - 玻尔兹曼平衡分布如何成为完整热力学描述（包括非平衡涨落定理）的充分条件。对完全训练后的 RBM 进行了数值模拟，验证了热交换涨落定理，结果与理论高度吻合。我们观察到，主要用于 RBM 无监督学习的对比散度泛函与非平衡热力学量密切相关。我们还利用该框架，从热力学角度解释了使用退火重要性采样方法估计 RBM 配分函数的过程。最后，我们论证了在缺乏标记数据的情况下，RBM 的无监督学习等价于受热力学定律驱动的系统中的做功协议。