互依赖：一种计算随机变量间依赖关系的新方法
统计理论
2015-06-03 v1 机器学习
统计理论
摘要
在数据科学中，经常需要估计不同数据源之间的依赖关系。这些依赖通常使用 Pearson 相关、距离相关和/或互信息来计算。然而，这些度量都不满足 Granger 关于“理想度量”的所有公理。Granger 本人提出了一个这样的理想度量，它计算联合概率密度函数（pdf）与边缘 pdf 乘积之间的 Bhattacharyya 距离。我们称此度量为互依赖（mutual dependence）。然而，迄今为止该度量无法直接从数据计算。在本文中，我们利用最近引入的用于限带 pdf 的最大似然非参数估计器，直接从数据计算互依赖。我们构造了互依赖的估计器，并通过计算收敛速率、计算复杂度以及捕捉非线性依赖的能力，将其性能与标准度量（Pearson 相关和距离相关）针对不同已知 pdf 进行比较。我们的互依赖估计器需要更少的样本收敛到理论值，计算更快，并且比标准度量捕捉更复杂的依赖。
引用
@article{arxiv.1506.00673,
title = {Mutual Dependence: A Novel Method for Computing Dependencies Between Random Variables},
author = {Rahul Agarwal and Pierre Sacre and Sridevi V. Sarma},
journal= {arXiv preprint arXiv:1506.00673},
year = {2015}
}