基于 Kac 游走的快速且内存最优的降维方法
数据结构与算法
2020-07-15 v3 概率论
摘要
在这项工作中,我们分析了基于 Kac 游走及其离散变体的降维算法。(1) 对于 中的 个点,我们设计了一种基于 Kac 游走的最优 Johnson-Lindenstrauss (JL) 变换,它可以在 时间内作用于任意向量,其对 的限制与 Ailon 和 Liberty [SODA, 2008] 以及 Bamberger 和 Krahmer [arXiv, 2017] 的最佳已知变换基本相同。我们的算法是内存最优的,并在 足够大且失真参数足够小的情形下优于现有算法。特别地,这以更强的形式证实了 Ailon 和 Chazelle [STOC, 2006] 的一个猜想。(2) 同一构造给出了一种具有最优受限等距性质 (RIP) 的简单变换,它可以在 时间内应用,其稀疏度范围与 Ailon 和 Rauhut [Discrete Comput. Geom., 2014] 的最佳已知此类变换基本相同。(3) 我们证明,若在整个过程中将 Kac 游走中的角度固定为 ,则可获得最优的 JL 和 RIP 变换且运行时间几乎相同,从而——在一个 因子范围内——证实了 Avron、Maymounkov 和 Toledo [SIAM J. Sci. Comput., 2010] 的猜想。我们对 Kac 游走这一修改的基于矩的分析也可能具有独立意义。
引用
@article{arxiv.2003.10069,
title = {Fast and memory-optimal dimension reduction using Kac's walk},
author = {Vishesh Jain and Natesh S. Pillai and Ashwin Sah and Mehtaab Sawhney and Aaron Smith},
journal= {arXiv preprint arXiv:2003.10069},
year = {2020}
}
备注
27 pages, comments welcome! This version: significant new results; added two co-authors