中文

基于拉姆齐理论的多变量分布贴近性检验

数据结构与算法 2023-11-23 v1 信息论 机器学习 math.IT 统计理论 机器学习 统计理论

摘要

我们研究多维分布的统计贴近性(或等价性)检验任务。具体而言,给定对 Rd\mathbb R^d 上两个未知分布 p,q\mathbf p, \mathbf q 的样本访问权限,我们希望区分 p=q\mathbf p=\mathbf qpqAk>ϵ\|\mathbf p-\mathbf q\|_{A_k} > \epsilon 两种情况,其中 pqAk\|\mathbf p-\mathbf q\|_{A_k} 表示 p\mathbf pq\mathbf q 之间的广义 Ak{A}_k 距离——衡量两分布在任何 kk 个互不相交的轴对齐矩形集合上的最大差异。我们的主要结果是该问题的首个具有{\em 亚学习}样本复杂度的贴近性检验器,以及近乎匹配的样本复杂度下界。更详细地,我们提供了一种计算高效的贴近性检验器,其样本复杂度为 O((k6/7/polyd(ϵ))logd(k))O\left((k^{6/7}/ \mathrm{poly}_d(\epsilon)) \log^d(k)\right)。在下界方面,我们建立了定性匹配的样本复杂度下界 Ω(k6/7/poly(ϵ))\Omega(k^{6/7}/\mathrm{poly}(\epsilon)),即便对 d=2d=2 也成立。这些样本复杂度界限令人惊讶,因为该问题在单变量设定下的样本复杂度为 Θ(k4/5/poly(ϵ))\Theta(k^{4/5}/\mathrm{poly}(\epsilon))。这带来一个有趣的结论:从一维到二维的跃迁导致样本复杂度大幅增加,而 beyond 此后的维度增加则不会。作为我们一般 AkA_k 检验器的推论,我们获得了针对 Rd\mathbb R^d 上公共未知划分下 kk-直方图分布对,以及支撑于 kk 个未知互不相交轴对齐矩形并集上的均匀分布对的 dTVd_{\mathrm TV}-贴近性检验器。我们的算法与下界都必不可少地使用了拉姆齐理论中的工具。

关键词

引用

@article{arxiv.2311.13154,
  title  = {Testing Closeness of Multivariate Distributions via Ramsey Theory},
  author = {Ilias Diakonikolas and Daniel M. Kane and Sihan Liu},
  journal= {arXiv preprint arXiv:2311.13154},
  year   = {2023}
}