Pearson 相关系数的几何视角及其对非线性依赖的推广

衡量两个随机变量之间统计依赖的强度或程度是许多领域中的常见问题。Pearson 相关系数 $\rho$ 是线性依赖的准确度量。我们表明 $\rho$ 是两个随机变量的联合概率分布与在保持它们边际分布的同时假设其独立时的联合概率分布之间的一种归一化的欧几里得型距离。而归一化常数是两个最大距离的几何平均，其中每个最大距离分别是在保持各自边际分布的同时假设完全线性依赖时的联合概率分布与假设独立时的联合概率分布之间的距离。由于它基于一般不是度量且所考虑完全依赖为线性的欧几里得型距离，其使用被限制于线性依赖。因此，我们认为若采用合适的度量并考虑所有可能的完全依赖，则它可以度量任意非线性依赖。但此时必须定义所有的完全依赖。Hellinger 距离作为一种度量可用于概率分布之间的距离度量，并由此得到 $\rho$ 在离散情形下的推广。