全局相关性量化器与统计充分性的连续概念设计
信息论
2020-03-23 v5 math.IT
数据分析、统计与概率
机器学习
摘要
利用推理的第一性原理,我们设计了一组泛函,用于对联合概率分布按其相关性进行排名。从一个一般泛函出发,我们通过恒定相关性原理(PCC)施加其期望行为,该原理约束相关泛函在统计独立的推理变换下以一致的方式表现。PCC 指导我们选择适当的设计准则以构造所需泛函。由于推导依赖于将变量空间划分为 个不相交子空间的选择,我们所设计的一般泛函是 部信息(NPI),其中总相关和互信息为其特例。因此,发现这些泛函唯一能够确定某类推理变换 是否保持、破坏或创造相关性。这通过排除其他可能的全局相关性量化器提供了概念上的清晰性。最后,推导与结果使我们能够量化非二进制的统计充分性概念。我们的结果表达了在给定推理变换或变量映射下保留的相关性的百分比。
引用
@article{arxiv.1907.06992,
title = {The Design of Global Correlation Quantifiers and Continuous Notions of Statistical Sufficiency},
author = {Nicholas Carrara and Kevin Vanslette},
journal= {arXiv preprint arXiv:1907.06992},
year = {2020}
}