使用神经网络检测摊销贝叶斯推断中的模型误设：一项扩展研究
机器学习
2024-06-07 v2 人工智能
摘要
概率深度学习的最新进展使得在似然函数仅由模拟程序隐式定义的环境中（基于模拟的推断；SBI）能够进行高效的摊销贝叶斯推断。但是，如果模拟在某种程度上不准确地表示现实，即测试时系统的真实行为偏离了训练期间观察到的行为，那么这种推断的忠实度如何？我们概念化了SBI中出现的此类模型误设的类型，并系统地研究了神经后验近似器的性能如何因此逐渐恶化，使得推断结果越来越不可信。为了向用户通知此问题，我们提出了一种新的误设度量，该度量可以以无监督方式训练（即，无需来自真实分布的训练数据），并在测试时可靠地检测模型误设。我们的实验在具有解析真实值的玩具示例以及细胞生物学、认知决策、疾病爆发动力学和计算机视觉中的代表性科学任务上，清楚地证明了我们新度量的实用性。我们展示了所提出的误设测试如何警告用户可疑的输出，在预测不可信时发出警报，并指导模型设计者寻找更好的模拟器。
引用
@article{arxiv.2406.03154,
title = {Detecting Model Misspecification in Amortized Bayesian Inference with Neural Networks: An Extended Investigation},
author = {Marvin Schmitt and Paul-Christian Bürkner and Ullrich Köthe and Stefan T. Radev},
journal= {arXiv preprint arXiv:2406.03154},
year = {2024}
}
备注
Extended version of the conference paper https://doi.org/10.1007/978-3-031-54605-1_35. arXiv admin note: text overlap with arXiv:2112.08866