印度自助餐过程的并行马尔可夫链蒙特卡洛方法

基于印度自助餐过程的模型是发现数据集潜在特征的一种优雅方法，但此类模型中的推断可能较慢。使用马尔可夫链蒙特卡洛推断潜在特征时，要么依赖于未折叠表示（导致混合不良），要么依赖于折叠表示（导致计算复杂度二次增长）。现有的分布式推断尝试在推断过程中引入了额外的近似。本文提出一种新颖的算法，对印度自助餐过程模型进行渐近精确的并行马尔可夫链蒙特卡洛推断。我们利用了在 beta-Bernoulli 过程下特征条件独立这一事实。由于这种条件独立性，我们可以将特征分为两部分：一部分仅包含有限多个已实例化的特征，另一部分包含未实例化特征的无穷尾部。对于有限划分，在给定特征实例化的情况下，并行推断很简单。但对于无穷尾部，执行未折叠 MCMC 会导致混合不良，因此我们将其特征折叠掉。由此产生的混合采样器在保持并行性的同时，能够渐近地从真实后验中产生样本。