中文

泊松多项分布的结构、覆盖与学习

数据结构与算法 2015-11-24 v3 机器学习 概率论 统计理论 统计理论

摘要

一个 (n,k)(n,k)-泊松多项分布(PMD)是 nn 个独立随机向量之和的分布,这些向量支撑于 Rk\mathbb{R}^k 中标准基向量集合 Bk={e1,,ek}{\cal B}_k=\{e_1,\ldots,e_k\} 上。我们证明了这些分布的一个结构刻画,表明对于所有 ε>0\varepsilon >0,任何 (n,k)(n, k)-泊松多项随机向量在总变距离(total variation distance)上 ε\varepsilon-接近于一个离散化多维高斯和一个独立的 (poly(k/ε),k)(\text{poly}(k/\varepsilon), k)-泊松多项随机向量之和。我们的结构刻画推广了Valiant和Valiant的多维中心极限定理(CLT),同时适用于所有近似要求 ε\varepsilon。特别地,它克服了依赖于 logn\log n 的因子,并且重要的是,克服了PMD协方差矩阵的最小特征值到多维高斯随机变量的距离。我们利用我们的结构刻画获得了所有 (n,k)(n, k)-PMD集合在总变距离上的一个 ε\varepsilon-覆盖,显著改进了Daskalakis和Papadimitriou的覆盖大小,并获得了与Daskalakis和Papadimitriou的 k=2k=2 覆盖在覆盖大小对 nnε\varepsilon 的依赖上相同的定性。我们进一步利用该结构表明,(n,k)(n,k)-PMD可以从 O~k(1/ε2)\tilde{O}_k(1/\varepsilon^2) 个样本中学习到总变距离内 ε\varepsilon 精度,这在依赖于 ε\varepsilon 和独立于 nn 的意义下是近最优的。特别地,我们的结果将Daskalakis、Diakonikolas和Servedio针对泊松二项分布的单一维度结果推广到了任意维度。

关键词

引用

@article{arxiv.1504.08363,
  title  = {On the Structure, Covering, and Learning of Poisson Multinomial Distributions},
  author = {Constantinos Daskalakis and Gautam Kamath and Christos Tzamos},
  journal= {arXiv preprint arXiv:1504.08363},
  year   = {2015}
}

备注

49 pages, extended abstract appeared in FOCS 2015