BMRM的下界与训练SVM的更快速率

Ankan Saha; Xinhua Zhang; S. V. N. Vishwanathan

BMRM的下界与训练SVM的更快速率

机器学习 2009-09-09 v2 人工智能数据结构与算法

作者: Ankan Saha , Xinhua Zhang , S. V. N. Vishwanathan

摘要

使用二元铰链损失及其变体的正则化风险最小化是许多机器学习问题的核心。用于正则化风险最小化的束方法及其密切相关的SVMStruct被认为是解决该问题的最佳通用求解器。最近的研究表明，BMRM需要 $O(1/\epsilon)$ 次迭代才能收敛到 $\epsilon$ 精度的解。在论文的第一部分，我们使用Hadamard矩阵构造了一个正则化风险最小化问题，并表明这些速率无法改进。随后，我们展示了如何利用目标函数的结构来设计一种针对二元铰链损失的算法，该算法在 $O(1/\sqrt{\epsilon})$ 次迭代内收敛到 $\epsilon$ 精度的解。

关键词

正则化风险最小化束方法支持向量机收敛速率下界 Hadamard矩阵

引用

@article{arxiv.0909.1334,
  title  = {Lower Bounds for BMRM and Faster Rates for Training SVMs},
  author = {Ankan Saha and Xinhua Zhang and S. V. N. Vishwanathan},
  journal= {arXiv preprint arXiv:0909.1334},
  year   = {2009}
}

备注

21 pages, 49 figures

BMRM的下界与训练SVM的更快速率

摘要

关键词

引用

备注

相关论文