含 RBF 核的 SVM 模型快速预测方法
机器学习
2014-10-06 v3 机器学习
摘要
我们提出一种针对使用 RBF 核的支持向量机模型的近似方案。对支持向量与测试实例之间内积的指数项采用二阶麦克劳林级数近似。该近似适用于所有涉及核函数求和的核方法,且不对数据归一化做任何假设。近似模型的预测速度不再与支持向量数量相关,而是与输入维度数的平方成正比。若输入维度数远小于支持向量数量,近似模型在预测速度上显著更快,且内存占用更小。我们实现了一个优化的 C++ 版本,通过一系列实际测试评估预测速度的提升。此外,我们提供了一种在训练模型前或运行时验证近似精度的方法,以确保精度损失保持在可接受且已知的范围内。
引用
@article{arxiv.1403.0736,
title = {Fast Prediction with SVM Models Containing RBF Kernels},
author = {Marc Claesen and Frank De Smet and Johan A. K. Suykens and Bart De Moor},
journal= {arXiv preprint arXiv:1403.0736},
year = {2014}
}
备注
9 pages, 1 figure, 3 tables