用于无似然推断的分数匹配神经指数族
统计方法学
2022-02-08 v4 机器学习
摘要
贝叶斯无似然推断（LFI）方法通过依赖模型模拟，可对具有难解似然的随机模型获得后验分布。在流行的LFI方法——近似贝叶斯计算（ABC）中，使用概要统计量来降低数据维度。ABC算法自适应地根据观测调整模拟，以从近似后验中采样，其形式取决于所选统计量。本文引入一种学习ABC统计量的新方法：我们首先独立于观测从模型生成参数-模拟对；随后使用分数匹配训练神经条件指数族以近似似然。指数族是具有固定维充分统计量的分布的最大类；因此我们将它们用于ABC，这在直观上颇具吸引力且具有最先进的性能。同时，我们将似然近似插入用于双重难解分布的MCMC中以抽取后验样本。对于任意数量的观测，我们可重复该过程而无需额外模型模拟，性能与同类方法相当。我们在具有已知似然的玩具模型及一个高维时间序列模型上验证了我们的方法。
引用
@article{arxiv.2012.10903,
title = {Score Matched Neural Exponential Families for Likelihood-Free Inference},
author = {Lorenzo Pacchiardi and Ritabrata Dutta},
journal= {arXiv preprint arXiv:2012.10903},
year = {2022}
}
备注
20 pages plus references and Appendix. Code for reproducing the experiments is available at http://github.com/LoryPack/SM-ExpFam-LFI