面向无限维非参数信息几何的 Fisher-Rao 度量方法

由于 Fisher-Rao 度量现在是 functionals，导致难以定义其逆，在无限维非参数信息几何中长期面临“不可计算性障碍”。本文提出一种新框架，通过切空间的正交分解（$T_fM = S \oplus S^{\perp}$）来解决不可计算性，其中 $S$ 表示可观测协变量子空间。通过该分解，我们推导出协变量 Fisher 信息矩阵（cFIM），记为 ${\bf G}_f$，它是从流形几何中可提取信息的有限维可计算代表。显著地，通过证明 Trace 定理：$H_G(f) = \text{Tr}({\bf G}_f)$，我们为此前所述的 G 熵提供了严格的基础，从而将其识别为表示与模型相关联概率分布所捕获的总解释统计信息的基本几何不变量。进一步，我们建立了 ${\bf G}_f$ 与 KL 散度二阶导数（即曲率）之间的联系，leading to 协变量 Cram\'er-Rao 下界（CRLB）的概念。我们证明 ${\bf G}_f$ 与有效 Fisher 信息矩阵等价，从而为半参数估计器的方差提供基本限制。最后，我们将几何框架应用于流形假设，将后者从 heuristic 假设提升为cFIM 中秩不足性的可检验条件。通过定义信息捕获比，我们提供一种严格的方法，用于估计高维数据的内在维数。总之，我们的工作通过提供可计算的方法，评估非参数模型的统计覆盖率和效率，弥合了抽象信息几何与可解释人工智能需求之间的鸿沟。