平均场变分贝叶斯的协方差矩阵

平均场变分贝叶斯 (MFVB) 是一种流行的后验近似方法，因其在大规模数据集上运行速度快而备受青睐。然而，众所周知，MFVB 的一个主要缺陷是它对模型变量不确定性的低估（有时非常严重），且缺乏关于模型变量协方差的信息。我们开发了一种适用于指数族分布的快速通用方法，对 MFVB 进行增强，以提供模型变量的准确不确定性估计——既针对单个变量，也能在变量间保持一致性。指数族分布的 MFVB 定义了近似后验均值中的不动点方程，而我们的方法通过扰动该不动点得出协方差估计。受线性响应理论启发，我们将该方法称为线性响应变分贝叶斯 (LRVB)。我们在模拟数据集上展示了该方法的准确性。