中文

估计流形维数的极小极大速率

统计理论 2020-01-01 v3 计算几何 统计理论

摘要

机器学习和计算几何中的许多算法需要以支撑数据概率分布的流形的本征维数作为输入。这一参数很少已知,因此必须进行估计。我们通过推导估计维数的极小极大速率的上界和下界,刻画了这一问题的统计难度。首先,我们考虑检验数据生成概率分布的支撑是一个行为良好的本征维数为d1d_1的流形,还是维数为d2d_2d1<d2d_{1}<d_{2})的流形的假设问题。基于大小为nn的独立同分布样本,我们给出了选择错误维数的概率的上界O(n(d2/d11ϵ)n)O\left( n^{-\left(d_{2}/d_{1}-1-\epsilon\right)n} \right),其中ϵ\epsilon为任意小的正数。该证明基于对穿过数据点的旅行商路径长度的界定。我们还通过将Le Cam引理应用于一组特定的d1d_{1}维概率分布,证明了Ω(n(2d22d1+ϵ)n)\Omega \left( n^{-(2d_{2}-2d_{1}+\epsilon)n} \right)的下界。然后,我们扩展这些结果,得到估计行为良好的流形维数的极小极大速率。我们得到阶为O(n(1m1ϵ)n)O \left( n^{-(\frac{1}{m-1}-\epsilon)n} \right)的上界和阶为Ω(n(2+ϵ)n)\Omega \left( n^{-(2+\epsilon)n} \right)的下界,其中mm为嵌入维数。

关键词

引用

@article{arxiv.1605.01011,
  title  = {Minimax Rates for Estimating the Dimension of a Manifold},
  author = {Jisu Kim and Alessandro Rinaldo and Larry Wasserman},
  journal= {arXiv preprint arXiv:1605.01011},
  year   = {2020}
}

备注

54 pages, 11 figures, to be published in Journal of Computational Geometry, Volume 10, Number 1