Johnson-Lindenstrauss 的简单统一分析及其应用

Yingru Li

Johnson-Lindenstrauss 的简单统一分析及其应用

机器学习 2024-07-22 v4 数据结构与算法机器学习概率论

作者: Yingru Li

摘要

我们提出了 Johnson-Lindenstrauss (JL) 引理的简化和统一分析，该引理是管理高维数据的降维基石。我们的方法简化了理解，并统一了 JL 框架下的各种构造，包括球形、二元硬币、稀疏 JL、高斯和亚高斯模型。这种统一保留了数据的内在几何结构，这对于从流算法到强化学习的应用至关重要。我们提供了球形构造有效性的第一个严格证明，并在这个简化框架内引入了一类通用的亚高斯构造。我们贡献的核心是对 Hanson-Wright 不等式在高维上的创新扩展，并附有显式常数。通过使用简单而强大的概率工具和分析技术，如增强的对角化过程，我们的分析通过去除独立性假设巩固了 JL 引理的理论基础，并将其实际适用性扩展到当代算法。

关键词

Johnson-Lindenstrauss 引理降维 Hanson-Wright 不等式亚高斯构造球形构造高维数据

引用

@article{arxiv.2402.10232,
  title  = {Simple, unified analysis of Johnson-Lindenstrauss with applications},
  author = {Yingru Li},
  journal= {arXiv preprint arXiv:2402.10232},
  year   = {2024}
}

备注

24 pages, presented at "High-dimensional Learning Dynamics 2024: The Emergence of Structure and Reasoning"

Johnson-Lindenstrauss 的简单统一分析及其应用

摘要

关键词

引用

备注

相关论文