香农信息与集成信息:讯息与意义
神经元与认知
2024-12-17 v1 信息论
math.IT
摘要
信息论由香农提出,作为一种数学通信理论,取得了极大的成功和影响力。香农的信息概念不考虑被传递讯息的意义,仅关注其概率。尽管如此,计算方法仍常引用“信息处理”来研究意义在自然与人工系统中的编码与解码方式。本文对比香农信息论与集成信息论(IIT),后者旨在解释意识的存在及其属性。IIT 将意义视为集成信息,并将其特征化为一种结构,而非讯息或代码。依据 IIT 的公理与后设条件,理论上可以从系统在某一状态下的基质中“展开”一种 cause-effect 结构,这一结构完整定义了经验的内在意义及其内容。因此,要实现讯息的传递,发送者与接收者的 cause-effect 结构必须相似。
引用
@article{arxiv.2412.10626,
title = {Shannon information and integrated information: message and meaning},
author = {Alireza Zaeemzadeh and Giulio Tononi},
journal= {arXiv preprint arXiv:2412.10626},
year = {2024}
}