通过复制运行上的聚类技术评估稳定性以提升潜在狄利克雷分配模型的可靠性

对于组织大型文本语料库，主题建模提供了有用的工具。一种广泛使用的方法是潜在狄利克雷分配（Latent Dirichlet Allocation, LDA），这是一种生成式概率模型，将文本集合中的单篇文本建模为潜在主题的混合。词到主题的分配依赖于初始值，因此 LDA 的结果通常不能完全复现。此外，通过吉布斯采样进行的重分配基于条件分布，导致在同一文本数据上多次复制运行会得到不同结果。这一事实在日常实践中常被忽视。我们旨在提升 LDA 结果的可靠性。为此，我们通过比较复制运行的分配来研究 LDA 的稳定性。我们提出用修正的 Jaccard 系数来量化两个生成主题之间的相似性。利用此类相似性，可对主题进行聚类。基于两次 LDA 运行会产生成对相似主题的思想，提出了一种针对层次聚类结果的新剪枝算法。该方法引出了用于量化 LDA 模型稳定性的新度量 S-CLOP（通过局部剪枝聚类的多集合相似性，{\bf S}imilarity of multiple sets by {\bf C}lustering with {\bf LO}cal {\bf P}runing）。我们讨论了该度量的一些特性，并通过应用于由《今日美国》（\textit{USA Today}）报纸文章组成的真实数据加以说明。我们的结果表明，S-CLOP 度量可用于评估 LDA 模型或任何其他以词分布刻画主题的主题建模过程的稳定性。基于新提出的 LDA 稳定性度量，我们提出了一种方法，通过增加可靠性从而提升基于主题建模的经验发现的可复现性。这种可靠性的提升通过多次运行 LDA 并将最具代表性的运行（即与所有其他运行平均相似性最高的 LDA 运行）作为原型来实现。