基于 WikiPDA 的跨语言主题建模

我们提出基于 Wikipedia 的多语言 Dirichlet 分配（WikiPDA），一种跨语言主题模型，它学习将用任意语言撰写的 Wikipedia 文章表示为一组通用、与语言无关的主题上的分布。它利用了以下事实：Wikipedia 文章相互链接并被映射到 Wikidata 知识库中的概念，因此当表示为链接袋时，文章本质上是与语言无关的。WikiPDA 分两步工作，首先使用矩阵补全对链接袋进行稠密化，然后训练一个标准的单语主题模型。一项人工评估表明，WikiPDA 比基于单语文本的 LDA 产生更连贯的主题，从而以零代价提供跨语言性。我们在两个应用中展示了 WikiPDA 的效用：对 28 个 Wikipedia 版本中主题偏差的研究，以及跨语言有监督分类。最后，我们强调 WikiPDA 的零样本语言迁移能力，即模型可在无任何微调的情况下复用于新语言。研究人员可将 WikiPDA 作为一种实用工具，通过其公开可用的易用库（https://github.com/epfl-dlab/WikiPDA）以可解释的方式研究 Wikipedia 在其 299 种语言版本中的内容。