中文

密度感知 VAE (DiVAE):通过密度对齐正则化实现可靠对数先验概率

机器学习 2025-12-04 v1

摘要

我们提出密度感知变分自编码器(DiVAE),一种轻量级、数据驱动的正则化方法,通过密度对齐实现 VAE 对数先验概率 logpZ(z)\log p_Z(z) 与数据估计的对数密度的一致性。标准 VAE 将潜在变量匹配为简单先验,忽略数据空间中密度结构。DiVAE 鼓励编码器按数据空间密度分配后验质量,并在先验可学习时,将其引导 toward 高密度区域。这通过在 ELBO 中添加稳健、加权精度的惩罚项实现,计算开销极小。在合成数据集上,DiVAE (i) 改善了潜在对数密度与真实值对应的分布对齐,(ii) 提升了先验覆盖率,(iii) 提升了 OOD 不确定性校准。在 MNIST 数据集上,DiVAE 改善了先验与外部密度估计的对齐,提供更好的可解释性,并提升了可学习先验的 OOD 检测性能。

关键词

引用

@article{arxiv.2512.03928,
  title  = {Density-Informed VAE (DiVAE): Reliable Log-Prior Probability via Density Alignment Regularization},
  author = {Michele Alessi and Alessio Ansuini and Alex Rodriguez},
  journal= {arXiv preprint arXiv:2512.03928},
  year   = {2025}
}

备注

PriGM Workshop EurIPS 2025