一种带协变量的新 LDA 公式
信息检索
2022-02-24 v1 机器学习
统计方法学
机器学习
摘要
潜狄利克雷分配(Latent Dirichlet Allocation, LDA)模型是一种用于创建混合成员聚类的流行方法。尽管最初是为文本分析而开发,LDA 已被用于广泛的其他应用。我们提出一种融入协变量的 LDA 模型新公式。在该模型中,负二项回归被嵌入 LDA 之中,从而能够对回归系数进行直白的解释,并分析每个抽样单元中簇特定元素的数量(而非如结构主题模型那样将分析聚焦于建模各簇的比例)。我们在吉布斯采样算法中使用切片采样来估计模型参数。我们依靠模拟来展示我们的算法如何成功恢复真实参数值,以及利用协变量所给信息对丰度矩阵进行预测的能力。该模型使用来自三个不同领域的真实数据集进行说明:冠状病毒文章的文本挖掘、杂货购物篮分析,以及巴罗科罗拉多岛(巴拿马)树木物种的生态学。该模型可在离散数据中识别混合成员聚类,并提供关于协变量与这些聚类丰度之间关系的推断。
引用
@article{arxiv.2202.11527,
title = {A new LDA formulation with covariates},
author = {Gilson Shimizu and Rafael Izbicki and Denis Valle},
journal= {arXiv preprint arXiv:2202.11527},
year = {2022}
}