使用零一损失学习基于核的半空间
机器学习
2010-08-03 v2
摘要
我们描述并分析了一种新算法，用于在不可知学习设置下，针对零一损失函数学习基于核的半空间。与大多数先前依赖替代凸损失函数（例如支持向量机中的合页损失和逻辑回归中的对数损失）的公式不同，我们针对更自然的零一损失函数提供了有限时间/样本保证。所提出的算法对于任意分布，能在最坏情况时间 内学习基于核的半空间，其中 是 Lipschitz 常数（可视为间隔的倒数），并且学习到的分类器与最优半空间的差距至多为 。我们还证明了一个困难性结果，表明在某种密码学假设下，没有算法能在 的多项式时间内学习基于核的半空间。
引用
@article{arxiv.1005.3681,
title = {Learning Kernel-Based Halfspaces with the Zero-One Loss},
author = {Shai Shalev-Shwartz and Ohad Shamir and Karthik Sridharan},
journal= {arXiv preprint arXiv:1005.3681},
year = {2010}
}
备注
This is a full version of the paper appearing in the 23rd International Conference on Learning Theory (COLT 2010). Compared to the previous arXiv version, this version contains some small corrections in the proof of Lemma 3 and in appendix A