利用拉格朗日松弛进行图模型中的最大后验估计

我们开发了一个通用框架，利用拉格朗日松弛技术对离散和高斯图模型进行最大后验（MAP）估计。其核心思想是将一个难以处理的估计问题重构为定义在更易处理图上的问题，但需满足额外约束。松弛这些约束可得到一个由稀疏图定义的易处理对偶问题，随后通过迭代过程进行优化。当这种迭代优化产生一致估计（即同时也满足约束）时，它对应于原始模型的最优 MAP 估计。否则，存在“对偶间隙”，我们可获得最优解的一个界。因此，我们的方法结合了凸优化与适用于稀疏图的动态规划技术。流行的树重加权最大乘积（TRMP）方法可被视为求解此类松弛的一个特定类别，其中难以处理的图被松弛为一组生成树。我们还考虑了松弛到一组小型诱导子图、稀疏子图（例如环）以及通过“展开”循环获得的连通树的情况。此外，我们提出了一类引入“摘要”变量的新多尺度松弛方法。此类推广的潜在益处包括：减少或消除困难问题中的“对偶间隙”，减少对偶问题中拉格朗日乘子的数量，以及加速迭代优化过程的收敛。