基于归一化流的变分贝叶斯最优实验设计
机器学习
2025-04-29 v2 计算工程、金融与科学
统计计算
统计方法学
机器学习
摘要
贝叶斯最优实验设计旨在寻找能最大化模型参数期望信息增益的实验。使用嵌套蒙特卡罗直接估计 EIG 计算成本高昂，且需要显式似然。相比之下，变分 OED (vOED) 通过用变分形式近似后验分布，在无需似然估计的情况下计算 EIG 的下界，随后通过优化其变分参数来紧致该界限。我们引入归一化流在 vOED 中表示变分分布；我们将此方法称为 vOED-NFs。具体而言，我们采用由耦合层复合构建并辅以用于数据降维的摘要网络的条件可逆神经网络架构的 NFs。我们提出了该下界的蒙特卡罗估计量以及梯度表达式，以实现变分参数和设计变量的基于梯度的同步优化。随后，vOED-NFs 算法在两个基准问题上得到验证，并应用于阴极电泳沉积这一由偏微分方程控制的应用，以及具有蚜虫种群随机建模的隐式似然案例。结果表明，在固定的正向模型运行预算下，4 到 5 个耦合层的复合能够实现比以往方法更低的 EIG 估计偏差。所得的 NFs 生成的近似后验与真实后验高度吻合，能够有效捕捉非高斯和多模态特征。
引用
@article{arxiv.2404.13056,
title = {Variational Bayesian Optimal Experimental Design with Normalizing Flows},
author = {Jiayuan Dong and Christian Jacobsen and Mehdi Khalloufi and Maryam Akram and Wanjiao Liu and Karthik Duraisamy and Xun Huan},
journal= {arXiv preprint arXiv:2404.13056},
year = {2025}
}