条件随机场与支持向量机:一种混合方法
机器学习
2010-09-20 v1
摘要
我们提出了一种用于多类和结构化预测问题的新型混合损失函数,它是条件随机场(CRF)的对数损失和支持向量机(SVM)的多类铰链损失的凸组合。我们给出了混合损失在分类中具有Fisher一致性的充分条件。该条件取决于标签之间的优势度度量——具体而言,是最可能标签之间每个观测概率的差距。我们还证明了在学习CRF等模型时,Fisher一致性是参数一致性的必要条件。我们通过实验证明,在各种任务上,混合损失通常至少与其两个组成损失表现相当,且通常更优。在此过程中,我们还对概率方法和基于间隔方法在多类和结构化预测中的有效性,以及标签优势对这些结果的影响进行了实证比较。
引用
@article{arxiv.1009.3346,
title = {Conditional Random Fields and Support Vector Machines: A Hybrid Approach},
author = {Qinfeng Shi and Mark D. Reid and Tiberio Caetano},
journal= {arXiv preprint arXiv:1009.3346},
year = {2010}
}
备注
16 pages, 3 figures