基于高斯混合近似的采样

我们提出了一族用于对未归一化目标密度进行采样的高斯混合近似（Gaussian Mixture Approximation, GMA）采样器，涵盖仅权重GMA（W-GMA）、拉普拉斯混合近似（LMA）、期望最大化GMA（EM-GMA）及其他变体。GMA采用简单的两阶段范式：(i) 初始化一组有限的高斯分量并从提议混合分布中抽取样本；(ii) 通过基于样本的KL散度目标（仅需对未归一化密度进行求值）来拟合该混合分布以逼近目标，拟合时可以仅优化分量权重，也可同时优化均值和方差，随后进行分层重采样。该方法是免梯度的，且计算高效：它利用了从高斯分布采样的便利性、高效的优化方法（投影梯度下降、镜像下降和EM）以及分层重采样的鲁棒性，以生成忠实于目标的样本。我们证明了这种优化-重采样方案在温和条件下可产生一致的近似，并通过实证结果验证了该方法在多种密度下的准确性和速度。