中文

主题模型中混合测度间 Wasserstein 距离的估计与推断

统计理论 2024-09-10 v3 机器学习 统计理论

摘要

混合测度间的 Wasserstein 距离在混合模型的统计分析中已占据中心地位。本工作提出该距离的一种新规范性解释,并提供对主题模型中混合测度间 Wasserstein 距离进行推断的工具。我们考虑由来自装备任意度量 dd 的集合 A\mathcal{A} 的分布混合构成的可辨识混合模型的一般设定,并证明混合测度间的 Wasserstein 距离被唯一刻画为度量 ddA\mathcal{A} 中元素之混合集合最具判别力的凸扩张。混合测度间的 Wasserstein 距离已广泛用于此类模型研究,但缺乏公理性依据。我们的结果确立该度量为规范性选择。将结果专用于主题模型,我们考虑该距离的估计与推断。尽管其估计的上界近期已在别处建立,我们证明了主题模型中 Wasserstein 距离估计的首个极小极大下界。我们也建立了主题模型背景下 Wasserstein 距离的全数据驱动推断工具。我们的结果适用于潜在稀疏的高维离散概率分布混合。这些结果使我们能获得主题模型中 Wasserstein 距离的首个渐近有效置信区间。

关键词

引用

@article{arxiv.2206.12768,
  title  = {Estimation and inference for the Wasserstein distance between mixing measures in topic models},
  author = {Xin Bing and Florentina Bunea and Jonathan Niles-Weed},
  journal= {arXiv preprint arXiv:2206.12768},
  year   = {2024}
}