主观信息度量与率保真理论

本文利用鱼覆盖模型（fish-covering model），直观地解释了如何逐步将 Hartley 信息公式扩展为广义信息公式，以度量主观信息：计量信息（如温度计传达的信息）、感官信息（如色觉传达的信息）和语义信息（如天气预报传达的信息）。关键步骤是区分消息的条件概率和逻辑条件概率。本文阐述了该公式的合理性，讨论了广义信息公式与 Popper 知识进化理论的一致性。为了优化数据压缩，本文讨论了极限错误率及其与基于 Kolmogorov 复杂度理论的复杂度 - 失真的相似性，并通过用主观互信息替换 Shannon 失真，将率失真理论改进为率保真理论。证明了率失真函数和率保真函数均等价于以一组模糊集为极限条件的极限错误率函数，并可用广义互信息公式（针对有损编码）或广义熵公式（针对无损编码）表示。通过分析与人眼视觉辨别力和图像像素数字化位数相关的率保真函数，本文得出结论：主观信息小于或等于客观（Shannon）信息；存在一个最佳匹配点，此时两类信息相等；匹配信息随视觉辨别力（由混淆概率定义）的提高而增加；对于给定的视觉辨别力，过高的图像分辨率或过多的客观信息是一种浪费。