中文

列联表的互信息及相关不等式

统计理论 2014-02-04 v1 信息论 math.IT 统计理论

摘要

在检验独立性时,非常流行使用 χ2\chi^{2} 统计量或 G2G^{2} 统计量(互信息)。渐近地,两者均服从 χ2\chi^{2} 分布,因此一个显而易见的问题是:这两种统计量中哪一种的分布最接近 χ2\chi^{2} 分布。令人惊讶的是,互信息的分布比 χ2\chi^{2} 统计量能更好地被 χ2\chi^{2} 分布近似。出于技术原因,我们将专注于自由度为 1 的最简单情形。我们引入了符号对数似然,并证明其分布函数可以通过不等式与标准高斯分布的分布函数联系起来。对于超几何分布,我们提出了一个关于符号对数似然与标准高斯分布接近程度的一般猜想,该猜想对此类分布尾部概率的估计比先前发表的结果更为准确。该猜想在所有与独立性检验相关的情形中均已通过数值方法得到证明,并给出了进一步的有效性证据。

关键词

引用

@article{arxiv.1402.0092,
  title  = {Mutual information of Contingency Tables and Related Inequalities},
  author = {Peter Harremoës},
  journal= {arXiv preprint arXiv:1402.0092},
  year   = {2014}
}

备注

A version without the appendix has been submitted to a conference