相干函数及其在大间隔分类方法中的应用
机器学习
2012-04-11 v1
摘要
支持向量机（SVM）由于使用合页损失函数而天然具有稀疏性。然而，SVM 无法直接估计条件类概率。在本文中，我们提出并研究了一族相干函数，它们是凸且可微的，可作为合页函数的替代。相干函数是利用最大熵原理推导得出的，并由一个温度参数表征。它在逻辑回归中的合页函数与 logit 函数之间架起了桥梁。相干函数在零温下的极限对应于合页函数，而其期望误差最小化器的极限则是合页损失期望误差的最小化器。我们将相干函数在大间隔分类中的应用称为 C-learning，并提出了用于训练正则化 -learning 模型的高效坐标下降算法。
引用
@article{arxiv.1204.2049,
title = {Coherence Functions with Applications in Large-Margin Classification Methods},
author = {Zhihua Zhang and Guang Dai and Michael I. Jordan},
journal= {arXiv preprint arXiv:1204.2049},
year = {2012}
}
备注
28 pages