一种真正自然的信息度量

信息的理论度量由 Shannon 在其通信数学理论中著名地开创，其中他提出了一种现被广泛使用的量——以比特度量的熵。然而，在同一篇论文中，Shannon 也选择以 nats 度量连续系统中的信息，其与比特的区别在于使用自然对数而非以 2 为底的对数。我们指出，对数底的选择毫无自然之处，而是任意的。我们修正这一棘手状况，提出一种真正自然的信息度量，称之为 gnats。我们表明 gnats 在信息论中具有诸多优势，并提议在科学、艺术与日常生活中普遍采用其基础方法论。