层次化尖峰-板坯印度自助餐过程的后验分布
统计理论
2021-03-23 v1 概率论
统计理论
摘要
贝叶斯非参数层次先验在为展现组间与跨组信息共享的潜数据结构提供灵活模型方面极为有效。最突出的是层次狄利克雷过程（HDP）及其后续变体，其对组间与跨组的潜聚类进行建模。HDP 可视为潜狄利克雷分配模型（LDA）的更灵活扩展，并已应用于例如主题建模、自然语言处理及医疗健康领域的数据集。我们关注类似的潜特征分配模型，其中数据结构对应于多重集或无界稀疏矩阵。这方面的根本性进展是层次印度自助餐过程（HIBP），其利用 J 个组上的贝塔过程层次，每组根据 beta-Bernoulli IBP 先验生成二值随机矩阵，反映组内特征共享。为涵盖 IBP 的非贝努利扩展的 HIBP 版本，我们引入一般尖峰-板坯 IBP 的层次版本。我们给出了 HIBP 及其推广的边际、后验与预测分布的显式新颖描述，从而允许精确采样与更简便的实际实现。我们强调了这些过程的共同结构性质，并建立了与文献中已有的 IBP 类型及相关模型的关系。潜在应用示例可能涉及主题模型、泊松分解模型、随机计数矩阵先验与神经网络模型。
引用
@article{arxiv.2103.11407,
title = {Posterior distributions for Hierarchical Spike and Slab Indian Buffet processes},
author = {Lancelot F. James and Juho Lee and Abhinav Pandey},
journal= {arXiv preprint arXiv:2103.11407},
year = {2021}
}
备注
4 figures