中文

编码与编码器的热力学

统计力学 2022-06-15 v1 无序系统与神经网络 信息论 math.IT 生物物理 神经元与认知

摘要

非孤立系统与外部 environment 具有多样的耦合关系。这些关系在系统与其环境之间产生复杂的热力学与信息传输。当前研究描绘的框架试图审视非孤立系统内部序在塑造信息热力学耦合中的关键作用。我们将该耦合刻画为广义编码过程,其中系统作为信息热力学编码器,基于热力学对外部信息进行编码。我们在非平衡热力学第二定律背景下形式化该编码过程,揭示了有内部关联与无内部关联的信息热力学编码器在信息热力学特征上的本质差异。在外部源 Y\mathsf{Y} 的信息编码过程中,具有内部关联的编码器 X\mathsf{X} 中的特定子系统可超越 (X,Y)(\mathsf{X},\mathsf{Y}) 上的信息热力学界限,并比系统 X\mathsf{X} 作为整体工作时编码更多信息。我们在具有随机外场的伊辛模型以及人类大脑在视觉感知与识别中的神经数据集上计算验证了这一理论发现。我们的分析表明,这些系统内部关联越强,意味着特定子系统比全局系统编码更多信息可能性越高。这些发现可能为研究多样物理与生物系统中的信息热力学提供新视角。

关键词

引用

@article{arxiv.2111.06624,
  title  = {Thermodynamics of Encoding and Encoders},
  author = {Yang Tian and Pei Sun},
  journal= {arXiv preprint arXiv:2111.06624},
  year   = {2022}
}