内积核渐近等价于二元离散核

Zhenyu Liao; Romain Couillet

内积核渐近等价于二元离散核

机器学习 2019-09-17 v1 机器学习

作者: Zhenyu Liao , Romain Couillet

摘要

本文在高维情形下（数据个数 $n$ 与其维数 $p$ 均大且可比）基于二元混合模型，研究了内积型核矩阵 $\sqrt{p} \mathbf{K}=\{f( \mathbf{x}_i^{\sf T} \mathbf{x}_j/\sqrt{p})\}_{i,j=1}^n$ 的特征谱。基于随机矩阵理论的最新进展，我们证明了对一大类非线性函数 $f$ ，其特征谱行为渐近等价于（至多）三次函数的行为。这为理解高维问题中的非线性提供了新视角。作为副产品，我们提出了一个取值于 $(-1,0,1)$ 的简单函数原型，其在减少存储内存和运行时间的同时，达到了与任意函数 $f$ 相同的（渐近）分类性能。

关键词

内积核二元离散核特征谱随机矩阵理论高维情形二元混合模型分类

引用

@article{arxiv.1909.06788,
  title  = {Inner-product Kernels are Asymptotically Equivalent to Binary Discrete Kernels},
  author = {Zhenyu Liao and Romain Couillet},
  journal= {arXiv preprint arXiv:1909.06788},
  year   = {2019}
}

内积核渐近等价于二元离散核

摘要

关键词

引用

相关论文