空间信息在熵测度中的运用

熵的概念最初在信息论中引入，通过香农公式衡量观测值之间的异质性程度，迅速在许多应用科学中流行起来。一个较新的研究领域旨在将空间因素纳入熵测度，作为当事件发生的空间位置需要被考虑时的一种推广。这些发展的主要局限在于所有指数都是基于一个选定的距离条件计算的。本工作遵循并拓展了将空间分量纳入熵测度的路径。从分类变量香农熵的概率性质出发，本文研究了当空间作为第二维度被纳入时，被称为残差熵和互信息的量的特性。通过这种方式，基于单变量分布的熵测度提议被扩展到考虑双变量分布，在一个所有分量的概率意义都得到明确界定的设定下。一个直接的后果是，获得了一个满足可加性的空间熵测度，因为全局残差熵是基于不同距离类别的部分熵之和。此外，被称为互信息的量衡量了纳入空间所带来的信息，并且也具有可加性。一项详尽的比较研究说明了所提议指数的优越性。