中文

常见草地中的熵与交叉熵的展开式

信息论 2025-02-12 v1 math.IT

摘要

常见草地是域的一个丰富,其中的部分除法运算通过假设除以零取默认值——特殊元素 \bot 加入域中而使其为全体。对于实数的常见草地,我们添加二进制对数 log2()\log_2(-),并假设其为全体运算,其中 log2(p)=\log_2(p) = \botp0p \leq 0。借助这些以及其他辅助运算(如符号函数),我们构建代数,以便为有限样本空间上概率质量函数定义熵和交叉熵,通过 algebraic 公式表示,这些公式是由代数运算构成的简单术语,无需案例区分或规避部分性的约定。我们讨论了基于常见草地的代数的优势,其理论已建立,并探讨了其他方法以完全定义熵和其他信息度量的方法,这些方法使用单个术语即可实现。

关键词

引用

@article{arxiv.2502.07148,
  title  = {Expressing entropy and cross-entropy in expansions of common meadows},
  author = {Jan A Bergstra and John V Tucker},
  journal= {arXiv preprint arXiv:2502.07148},
  year   = {2025}
}