重尾类条件先验用于长尾生成模型
机器学习
2026-04-16 v2 人工智能
计算机视觉与模式识别
机器学习
摘要
在类分布不平衡的经验数据下训练的变分自编码器（VAE）使用全局先验会导致潜空间中尾部类的代表不足。虽然VAE通过重尾Student's 分布先验提升了鲁棒性，但其单一全局先验仍按类频率分配质量。我们通过引入C-VAE，为潜变量和输出变量分配每个类的Student's 联合先验，以此纠正潜空间的几何偏差。该设计促进潜空间中各类条件组件获得均匀的先验质量。为优化模型，我们从-power 发散派生闭式目标函数，并引入等权潜混合用于类平衡生成。在SVHN-LT、CIFAR100-LT和CelebA数据集上，C-VAE在严重类不平衡情况下持续获得更低的FID分数，优于VAE和基于高斯的VAE基线，同时在平衡或轻度不平衡设置中保持竞争力。在每类F1评估中，本方法在高度不平衡设置下优于条件高斯VAE。此外，我们识别出 mild imbalance阈值，此时基于高斯的模型仍具竞争力。然而，当时，我们的方法在类平衡生成和模式覆盖方面获得改进。
引用
@article{arxiv.2509.02154,
title = {Heavy-Tailed Class-Conditional Priors for Long-Tailed Generative Modeling},
author = {Aymene Mohammed Bouayed and Samuel Deslauriers-Gauthier and Adrian Iaccovelli and David Naccache},
journal= {arXiv preprint arXiv:2509.02154},
year = {2026}
}