中文

生成模型中的等级通胀

人工智能 2025-01-24 v3 机器学习 机器学习

摘要

生成模型具有巨大的潜力,但只有可信赖其生成数据的评估才能实现。我们表明,许多常用的用于比较合成二维分布与真实数据分布的质量评分得分会给出优于实际结果的评估,一种我们称之为“等级通胀问题”的现象。我们指出,相关性得分、Jaccard 得分、Earth Mover's 得分和 Kullback-Leibler (相对熵) 得分都受到等级通胀的影响。我们提出,任何价值所有数据点相等的得分都会出现等级通胀;我们将此类得分称为“等势”得分。我们提出“等密度”得分的概念,并提出 Eden 得分,我们在此概念的首个实例。我们发现 Eden 避免了等级通胀,更符合人类对拟合程度良好性的感知。我们认为,任何合理的等密度得分都将避免等级通胀。我们确定等密度得分与负序数的 Renyi 熵之间的联系。我们得出结论,等密度得分可能在生成模型以及更广泛地用于比较低维分布方面优于等势得分。

关键词

引用

@article{arxiv.2501.00664,
  title  = {Grade Inflation in Generative Models},
  author = {Phuc Nguyen and Miao Li and Alexandra Morgan and Rima Arnaout and Ramy Arnaout},
  journal= {arXiv preprint arXiv:2501.00664},
  year   = {2025}
}

备注

10 pages, 6 figures, 1 table