密度感知 VAE (DiVAE):通过密度对齐正则化实现可靠对数先验概率
机器学习
2025-12-04 v1
摘要
我们提出密度感知变分自编码器(DiVAE),一种轻量级、数据驱动的正则化方法,通过密度对齐实现 VAE 对数先验概率 与数据估计的对数密度的一致性。标准 VAE 将潜在变量匹配为简单先验,忽略数据空间中密度结构。DiVAE 鼓励编码器按数据空间密度分配后验质量,并在先验可学习时,将其引导 toward 高密度区域。这通过在 ELBO 中添加稳健、加权精度的惩罚项实现,计算开销极小。在合成数据集上,DiVAE (i) 改善了潜在对数密度与真实值对应的分布对齐,(ii) 提升了先验覆盖率,(iii) 提升了 OOD 不确定性校准。在 MNIST 数据集上,DiVAE 改善了先验与外部密度估计的对齐,提供更好的可解释性,并提升了可学习先验的 OOD 检测性能。
引用
@article{arxiv.2512.03928,
title = {Density-Informed VAE (DiVAE): Reliable Log-Prior Probability via Density Alignment Regularization},
author = {Michele Alessi and Alessio Ansuini and Alex Rodriguez},
journal= {arXiv preprint arXiv:2512.03928},
year = {2025}
}
备注
PriGM Workshop EurIPS 2025