通过无限潜状态复制改进主题模型的推断
计算与语言
2023-01-31 v1 人工智能
机器学习
统计理论
统计理论
摘要
在文本挖掘中，主题模型是一类用于从文本语料库中推断潜在语义主题的概率生成模型。主题模型最流行的推断方法之一或许是折叠吉布斯采样（CGS），它通常为每个观察到的文档-词对采样单一主题标签。本文旨在改进主题模型的 CGS 推断。我们提出利用状态增强技术，将主题样本数量最大化至无穷，进而开发了一种称为无限潜状态复制（ILR）的新推断方法，为每个给定文档-词对生成鲁棒的软主题分配。在公开可用数据集上的实验结果表明，ILR 在已有成熟主题模型的推断上优于 CGS。
引用
@article{arxiv.2301.12974,
title = {Improving the Inference of Topic Models via Infinite Latent State Replications},
author = {Daniel Rugeles and Zhen Hai and Juan Felipe Carmona and Manoranjan Dash and Gao Cong},
journal= {arXiv preprint arXiv:2301.12974},
year = {2023}
}