最优重缩放与马氏距离

数据分析中的一个基本问题在于选择最优重缩放（坐标系变换）以研究给定数据集 $Y$ 的性质。经典的马氏 (Mahalanobis) 方法基于经典归一化/重缩放公式 $Y \ni y \to \Sigma_Y^{-1/2} \cdot (y-\mathrm{m}_Y)$，其中 $\mathrm{m}_Y$ 表示 $Y$ 的均值，$\Sigma_Y$ 为协方差矩阵。基于交叉熵，我们推广了这一方法，并定义了一个参数来衡量 $Y$ 的给定仿射重缩放相对于马氏方法的拟合度。这特别允许找到满足某些附加条件的最优坐标系变换。特别是我们表明，当我们将坐标系原点置于 $\mathrm{m}$ 时，最优选择由变换 $Y \ni y \to \Sigma_Y^{-1/2} \cdot (y-\mathrm{m}_Y)$ 给出，其中 $$\Sigma=\Sigma_Y(\Sigma_Y-\frac{(\mathrm{m}-\mathrm{m}_Y)(\mathrm{m}-\mathrm{m}_Y)^T}{1+\|\mathrm{m}-\mathrm{m}_Y\|_{\Sigma_Y}^2})^{-1}\Sigma_Y.$$