多项式度多项式核的快速草图化
数据结构与算法
2021-08-24 v1 机器学习
机器学习
摘要
核方法是机器学习中的基础方法,而更快速的核近似算法可直接加速许多机器学习核心任务。多项式核尤为重要,因为其他核常可通过泰勒级数展开由多项式核近似。最近的 oblivious sketching 技术将多项式核度在运行时间上的依赖从指数级降至多项式级,这对高斯核很有用,因为可选为 polylogarithmic。然而,对于增长更慢的核,如神经正切核与弧余弦核,需为多项式,而先前工作导致运行时间出现多项式因子减速。我们给出了一种新的 oblivious sketch,通过去除首项中对的依赖,极大改善了该运行时间。结合一种新颖的采样方案,我们给出了近似一大类慢增长核的最快算法。
引用
@article{arxiv.2108.09420,
title = {Fast Sketching of Polynomial Kernels of Polynomial Degree},
author = {Zhao Song and David P. Woodruff and Zheng Yu and Lichen Zhang},
journal= {arXiv preprint arXiv:2108.09420},
year = {2021}
}
备注
ICML 2021