一种加速主题建模的新方法

潜在狄利克雷分配（LDA）是一种广泛使用的概率主题建模范式，最近在计算机视觉和计算生物学中发现了许多应用。在本文中，我们提出了一种快速且准确的批量算法——主动信念传播（ABP），用于训练 LDA。通常，批量 LDA 算法需要重复扫描整个语料库并搜索完整的主题空间。为了处理具有大量主题的大规模语料库，批量 LDA 算法的训练迭代往往效率低下且耗时。为了加快训练速度，ABP 主动扫描语料库的子集并搜索主题空间的子集进行主题建模，从而在每次迭代中节省大量的训练时间。为了确保准确性，ABP 在残差信念传播（RBP）框架内仅选择那些对最大残差有贡献的文档和主题。在四个真实世界语料库上，ABP 的执行速度比最先进的批量 LDA 算法快约 $10$ 到 $100$ 倍，同时保持相当的主题建模精度。