相对熵的完整图示公理化
计算机科学中的逻辑
2026-03-06 v1 信息论
范畴论
math.IT
摘要
相对熵是概率分布之间基本的距离度量,广泛应用于概率论、统计学和机器学习。在本工作中,我们从范畴学视角研究相对熵,将其视为随机矩阵范畭的量化丰富。在两种自然的单纯结构下研究随机矩阵:一种是 Kronecker 积,另一种是直接和 (direct sum)。我们的主要结果是对 Kullback-Leibler 发散以及更一般的任意阶的 R\'enyi 发散的完整公理化,针对每种此类结构。我们的公理化理论在量化单纯代数框架内形式化,采用富含量化方程的 string diagram 图形语言。
引用
@article{arxiv.2603.04530,
title = {Complete Diagrammatic Axiomatisations of Relative Entropy},
author = {Ralph Sarkis and Fabio Zanasi},
journal= {arXiv preprint arXiv:2603.04530},
year = {2026}
}