中文

面向张量积的复到实草图及其在多项式核中的应用

机器学习 2023-05-02 v4 机器学习 统计计算

摘要

pp 个向量的张量积的随机草图面临统计效率与计算加速之间的权衡。常用方法避免显式计算高维张量积,导致嵌入维度上 O(3p)\mathcal{O}(3^p) 的次优依赖。我们提出了一种对知名草图的简单复到实 (CtR) 修正,以复随机投影替代实随机投影,在嵌入维度上带来更低的 O(2p)\mathcal{O}(2^p) 因子。我们草图的输出为实值,使其下游使用直截了当。特别地,我们将草图应用于对应于多项式核特征映射的 pp 重自张量输入。我们表明,相较于文献中其他随机近似方法,我们的方法在精度与速度上均达到最先进水平。

关键词

引用

@article{arxiv.2202.02031,
  title  = {Complex-to-Real Sketches for Tensor Products with Applications to the Polynomial Kernel},
  author = {Jonas Wacker and Ruben Ohana and Maurizio Filippone},
  journal= {arXiv preprint arXiv:2202.02031},
  year   = {2023}
}

备注

32 pages