基于检测问题与 AUC 界的协方差选择质量

我们考虑量化图模型模型选择问题质量的问题。我们通过将该问题表述为检测问题来进行讨论。模型选择问题通常最小化原始分布与模型分布之间的距离。对于高斯分布这一特例，模型选择问题简化为协方差选择问题，Dempster [2] 在文献中广泛讨论了该问题，其中最大化似然准则或等价地最小化 Kullback-Leibler (KL) 散度以计算模型协方差矩阵。尽管该解在 KL 散度意义下对高斯分布是最优的，但当与其他信息散度及诸如曲线下面积 (AUC) 等准则比较时，它并非最优。在本文中，我们解析地计算出 AUC 的上下界，并讨论将 AUC 及其界作为检测问题中准确度度量时的模型选择问题质量。我们定义了相关近似矩阵 (CAM)，并表明 KL 散度、AUC 及其界的解析计算仅依赖于 CAM 的特征值。我们还通过针对 ROC 曲线优化，展示了 AUC、KL 散度与 ROC 曲线之间的关系。在所提供的示例中，我们选取树结构作为最简单的图模型。我们在完全图上执行仿真，并应用广泛使用的 Chow-Liu 算法 [3] 计算树结构模型。示例表明，当图模型中的节点数较大时，基于信息散度、AUC 及其界来看，树近似模型的质量通常不佳。我们通过解析与仿真均表明，树近似模型的 1-AUC 随图模型维度增加呈指数衰减。