基于Born规则的Shannon熵的几何解释
信息论
2009-09-29 v1 神经与进化计算
math.IT
概率论
数据分析、统计与概率
摘要
在本文中，我们将分析离散概率分布，其中某个实验（微观态）特定结果的概率可以用自然数之比表示（换句话说，概率由有限表示长度的数字表示）。我们将介绍基于最近提出的JoyStick概率选择器的若干结果，该选择器代表了基于Born规则的概率的几何解释。将引入离散分布的通用空间和通用维度以及有效维度的概念。我们将展示这种简单的几何表示如何导致信号序列的最优编码长度编码。然后，我们将给出离散分布Shannon熵的一个新的几何解释。我们提出Shannon熵表示分布有效维度的对数。所提出的Shannon熵的几何解释可用于以基本方式证明一些信息不等式。
引用
@article{arxiv.0909.4995,
title = {Geometrical Interpretation of Shannon's Entropy Based on the Born Rule},
author = {Marko V. Jankovic},
journal= {arXiv preprint arXiv:0909.4995},
year = {2009}
}