中文

证据网络:用于快速、摊销式神经贝叶斯模型比较的简单损失函数

机器学习 2024-01-11 v2 宇宙学与河外天体物理 天体物理仪器与方法 机器学习

摘要

证据网络能够在最先进方法(如嵌套采样)失效时,甚至在似然或先验不可解或未知时,实现贝叶斯模型比较。贝叶斯模型比较,即贝叶斯因子或证据比的计算,可被视为一个优化问题。尽管最优分类的贝叶斯解释已为人所知,此处我们转换视角,提出一类损失函数,其产生快速、摊销式的神经估计器,直接估计贝叶斯因子的便利函数。这缓解了估计单个模型概率相关的数值不准确性。我们引入泄漏奇偶奇次幂(l-POP)变换,从而得到新颖的“l-POP-Exponential”损失函数。我们探索了不同模型中数据概率的神经密度估计,表明其准确性与可扩展性均不及证据网络。多个真实与合成示例说明,证据网络显式地独立于参数空间的维度,且随后验概率密度函数复杂度的扩展较缓。这一简单而强大的方法对模型推断任务具有广泛意义。作为证据网络在真实数据上的应用,我们计算了利用暗能量巡天引力透镜数据的两个模型的贝叶斯因子。我们简要讨论了我们的方法在隐式推断设定下其他相关模型比较与评估问题中的应用。

关键词

引用

@article{arxiv.2305.11241,
  title  = {Evidence Networks: simple losses for fast, amortized, neural Bayesian model comparison},
  author = {Niall Jeffrey and Benjamin D. Wandelt},
  journal= {arXiv preprint arXiv:2305.11241},
  year   = {2024}
}

备注

21 pages, 8 figures, accepted by Machine Learning: Science and Technology