主题模型中混合测度间 Wasserstein 距离的估计与推断
统计理论
2024-09-10 v3 机器学习
统计理论
摘要
混合测度间的 Wasserstein 距离在混合模型的统计分析中已占据中心地位。本工作提出该距离的一种新规范性解释,并提供对主题模型中混合测度间 Wasserstein 距离进行推断的工具。我们考虑由来自装备任意度量 的集合 的分布混合构成的可辨识混合模型的一般设定,并证明混合测度间的 Wasserstein 距离被唯一刻画为度量 到 中元素之混合集合最具判别力的凸扩张。混合测度间的 Wasserstein 距离已广泛用于此类模型研究,但缺乏公理性依据。我们的结果确立该度量为规范性选择。将结果专用于主题模型,我们考虑该距离的估计与推断。尽管其估计的上界近期已在别处建立,我们证明了主题模型中 Wasserstein 距离估计的首个极小极大下界。我们也建立了主题模型背景下 Wasserstein 距离的全数据驱动推断工具。我们的结果适用于潜在稀疏的高维离散概率分布混合。这些结果使我们能获得主题模型中 Wasserstein 距离的首个渐近有效置信区间。
引用
@article{arxiv.2206.12768,
title = {Estimation and inference for the Wasserstein distance between mixing measures in topic models},
author = {Xin Bing and Florentina Bunea and Jonathan Niles-Weed},
journal= {arXiv preprint arXiv:2206.12768},
year = {2024}
}