用于 Dirichlet 过程混合模型 stick-breaking 推断的转码采样器
统计方法学
2024-05-08 v2
摘要
Dirichlet 过程混合模型受限于由 stick-breaking Gibbs 采样器产生的 MCMC 后验链混合缓慢,而基于 Polya 瓮表示的坍缩 Gibbs 采样器具有更短的综合自相关时间(IAT)。我们研究了上述两种采样器下簇隶属信息是如何编码的,并引入了转码算法以在编码之间切换。我们还开发了转码采样器,其由使用任意高效采样器(如坍缩 Gibbs)进行后验划分推断,随后通过转码算法将其转码为 stick-breaking 表示组成,从而允许对所有感兴趣的 stick-breaking 参数进行推断,同时保留高效采样器的更短 IAT。转码采样器比 slice 采样器实现起来明显更简单,它可以继承坍缩 Gibbs 采样器的更短 IAT,并且当与独立同分布的后验划分采样器(如序贯重要性采样器)配对时还可实现零 IAT。
引用
@article{arxiv.2304.02563,
title = {The transcoding sampler for stick-breaking inferences on Dirichlet process mixtures},
author = {Carlo Vicentini},
journal= {arXiv preprint arXiv:2304.02563},
year = {2024}
}
备注
Some sections have been moved to the Appendix, and Appendix A has been updated with a more relevant example