常见草地中的熵与交叉熵的展开式
信息论
2025-02-12 v1 math.IT
摘要
常见草地是域的一个丰富,其中的部分除法运算通过假设除以零取默认值——特殊元素 加入域中而使其为全体。对于实数的常见草地,我们添加二进制对数 ,并假设其为全体运算,其中 当 。借助这些以及其他辅助运算(如符号函数),我们构建代数,以便为有限样本空间上概率质量函数定义熵和交叉熵,通过 algebraic 公式表示,这些公式是由代数运算构成的简单术语,无需案例区分或规避部分性的约定。我们讨论了基于常见草地的代数的优势,其理论已建立,并探讨了其他方法以完全定义熵和其他信息度量的方法,这些方法使用单个术语即可实现。
引用
@article{arxiv.2502.07148,
title = {Expressing entropy and cross-entropy in expansions of common meadows},
author = {Jan A Bergstra and John V Tucker},
journal= {arXiv preprint arXiv:2502.07148},
year = {2025}
}