杂波问题背景下ELBO梯度的解析近似

我们提出了一种解析解，用于近似变分推断中证据下界（ELBO）的梯度，其中统计模型是一个贝叶斯网络，由从嵌入无关杂波中的高斯分布混合中抽取的观测值组成，即所谓的杂波问题。该方法采用重参数化技巧将梯度算子移入期望内部，并基于以下假设：由于似然函数在观测数据上分解，变分分布通常比似然因子中的高斯分布具有更紧凑的支持。这使得能够对各个似然因子进行有效的局部近似，从而得到定义梯度期望的积分的解析解。我们将所提出的梯度近似作为EM（期望最大化）算法中的期望步骤，用于最大化ELBO，并与贝叶斯推断中的经典确定性方法（如拉普拉斯近似、期望传播和平均场变分推断）进行测试。所提出的方法表现出良好的精度和收敛速度，同时具有线性计算复杂度。