中文

基于可解释维度降值的归一化流增强后验:用于高维数据的条件密度估计

统计方法学 2025-07-08 v1 应用统计 机器学习

摘要

条件密度刻画了给定其他预测变量xx后响应变量yy的分布,在许多统计任务中发挥关键作用,包括分类和异常检测。虽然针对低维响应变量(给定高维预测变量)的条件密度估计(CDE)已有大量研究,但针对如图像等高维响应的工作有限。归一化流(NF)神经网络在无条件密度估计中的良好性能为其发展提供了动力。本文扩展了当外部xx存在时的NF神经网络。具体而言,它们使用NF来参数化一个在高维yy和潜在变量zz之间的一一映射,而zz包含两个组成部分[zP,zN][z_P,z_N]zPz_P组件是来自基本预测模型(如逻辑回归/线性回归)后验分布的低维子向量。zNz_N组件是高维独立高斯向量,解释yy未或较少与xx相关的变异。与现有CDE方法不同,提出的方法称为增强后验CDE(AP-CDE),仅需对常见归一化流框架进行简单修改,即可显著提高潜在组件的可解释性,因为zPz_P代表了监督式维度降低。在图像分析应用中,AP-CDE显示出良好的xx相关变异(例如照明条件和主体标识)与其他随机变异的分离效果。进一步实验表明,基于高斯混合等无监督$z`模型的无条件NF神经网络无法生成可解释结果。

关键词

引用

@article{arxiv.2507.04216,
  title  = {Normalizing Flow to Augmented Posterior: Conditional Density Estimation with Interpretable Dimension Reduction for High Dimensional Data},
  author = {Cheng Zeng and George Michailidis and Hitoshi Iyatomi and Leo L Duan},
  journal= {arXiv preprint arXiv:2507.04216},
  year   = {2025}
}

备注

25 pages, 11 figures