中文

使用方差分析分解和基于非均匀快速傅里叶变换的矩阵-向量积的支持向量机预条件内点法

数值分析 2023-12-04 v1 机器学习 数值分析 最优化与控制

摘要

本文考虑软间隔支持向量机优化问题的数值求解。由于传统优化算法在处理大规模核矩阵时计算复杂度高,该问题通常使用SMO算法求解。在这项工作中,我们提出使用基于特征空间方差分析分解的非均匀快速傅里叶变换加速矩阵-向量积,并将其用于整个优化问题的内点法中。由于该方法需要求解鞍点形式的线性系统,我们提出了一种基于核矩阵低秩近似结合Krylov子空间求解器的预条件方法。我们将基于方差分析的核与默认LIBSVM实现的精度进行了比较。我们在几个大规模数据集上研究了不同预条件器的性能以及方差分析核的精度。

关键词

引用

@article{arxiv.2312.00538,
  title  = {A Preconditioned Interior Point Method for Support Vector Machines Using an ANOVA-Decomposition and NFFT-Based Matrix-Vector Products},
  author = {Theresa Wagner and John W. Pearson and Martin Stoll},
  journal= {arXiv preprint arXiv:2312.00538},
  year   = {2023}
}

备注

Official Code https://github.com/wagnertheresa/NFFTSVMipm