中文

基于相对密度比的生成模型分布评估

统计方法学 2025-12-29 v2 机器学习

摘要

我们提出了一种基于相对密度比(RDR)的生成模型函数型评估指标,用于刻画真实样本与生成样本之间的分布差异。作为评估指标,RDR函数保留了两个分布之间的 ϕ\phi-散度,实现了样本级别的评估,便于后续研究特征特定的分布差异,其取值范围有界,具有明确的可解释性和数值稳定性。通过对 ϕ\phi-散度的变分形式进行优化,可实现RDR的函数估计。我们提供了基于M估计理论的通用估计器的理论收敛速率保证,以及当真实比值为各向异性贝茨空间中的函数时,神经网络基于估计器的收敛速率。我们通过在MNIST、CelebA64和美国肠道项目微生物组数据上的数值实验展示了所提出RDR评估方法的有效性。我们表明,估计的RDR不仅有效地比较不同生成模型,还便于揭示拟合程度的内在本质。这使得可以评估支持重叠度、覆盖度和保真度,同时指出生成器集中注意力的样本空间区域,并揭示驱动最显著分布差异的特征。

关键词

引用

@article{arxiv.2510.25507,
  title  = {Distributional Evaluation of Generative Models via Relative Density Ratio},
  author = {Yuliang Xu and Yun Wei and Li Ma},
  journal= {arXiv preprint arXiv:2510.25507},
  year   = {2025}
}