中文

快速 Johnson-Lindenstrauss 变换更快了

数据结构与算法 2022-04-06 v1 机器学习

摘要

Ailon 与 Chazelle(SICOMP'09)开创性的快速 Johnson-Lindenstrauss(Fast JL)变换将 dd 维欧氏空间中的 nn 个点集嵌入到最优的 k=O(ε2lnn)k=O(\varepsilon^{-2} \ln n) 维中,同时将全部成对距离保持在因子 (1±ε)(1 \pm \varepsilon) 以内。Fast JL 变换支持在 O(dlnd+kln2n)O(d \ln d +k \ln^2 n) 时间内计算数据点的嵌入,其中 dlndd \ln d 项来自与 d×dd \times d Hadamard 矩阵相乘,kln2nk \ln^2 n 项来自与稀疏 k×dk \times d 矩阵相乘。尽管 Fast JL 变换已有十余年历史,对于 ε,d\varepsilon, dnn 之间许多权衡而言,它仍是最快的降维技术之一。本工作中,我们给出了对 Fast JL 变换令人惊讶的新分析,表明嵌入时间中的 kln2nk \ln^2 n 项可改进为 (kln2n)/α(k \ln^2 n)/\alpha,其中 α=Ω(min{ε1ln(1/ε),lnn})\alpha = \Omega(\min\{\varepsilon^{-1}\ln(1/\varepsilon), \ln n\})。该改进通过使用更稀疏的矩阵实现。我们还以低界补充了改进分析,表明新分析事实上是紧的。

关键词

引用

@article{arxiv.2204.01800,
  title  = {The Fast Johnson-Lindenstrauss Transform is Even Faster},
  author = {Ora Nova Fandina and Mikael Møller Høgsgaard and Kasper Green Larsen},
  journal= {arXiv preprint arXiv:2204.01800},
  year   = {2022}
}