直接摊销似然比估计
机器学习
2023-11-20 v1 机器学习
统计计算
摘要
我们为无似然基于模拟的推断(SBI)引入了一种新的摊销似然比估计器。我们的估计器训练简单,并通过神经估计器的单次前向传播来估计似然比。我们的方法直接计算两个竞争参数集之间的似然比,这与以往比较两个神经网络输出值的方法不同。我们将我们的模型称为直接神经比率估计器(DNRE)。作为引入DNRE的一部分,我们推导了相应的后验蒙特卡洛估计。我们对这一新比率估计器进行了基准测试,并与文献中已有的比率估计器进行比较。我们表明,我们的新比率估计器通常优于这些已有方法。作为进一步贡献,我们为似然比估计器引入了一种新的导数估计器,使我们能够比较无似然哈密顿蒙特卡洛(HMC)与随机游走Metropolis-Hastings(MH)。我们表明HMC同样具有竞争力,这是此前未被证明的。最后,我们通过使用我们的神经比率估计器设计四旋翼飞行器,给出了SBI的一个新的真实世界应用。代码见 https://github.com/SRI-CSL/dnre。
引用
@article{arxiv.2311.10571,
title = {Direct Amortized Likelihood Ratio Estimation},
author = {Adam D. Cobb and Brian Matejek and Daniel Elenius and Anirban Roy and Susmit Jha},
journal= {arXiv preprint arXiv:2311.10571},
year = {2023}
}
备注
12 Pages, 10 Figures, GitHub: https://github.com/SRI-CSL/dnre