Lovász Hinge：一种用于子模损失的新型凸替代损失
机器学习
2017-05-16 v2 机器学习
摘要
当同时做出集合预测时，使用非模损失进行学习是一个重要问题。构建集合预测凸替代损失函数的主要工具是 margin rescaling 与 slack rescaling。本工作中，我们表明这些策略当且仅当底层损失函数随错误预测数量增加而递增时，才导出紧致凸替代。然而，对于这些函数，梯度或割平面计算对于非超模损失函数是NP难的。我们转而提出一种用于子模损失的新型替代损失函数——Lovász hinge，其复杂度为O(p log p)，且计算梯度或割平面需O(p)次对损失函数的预言机访问。我们证明Lovász hinge是凸的并给出一个扩展。因此，我们开发了文献中首个可用于子模损失的可处理凸替代。我们通过若干集合预测任务，包括PASCAL VOC与Microsoft COCO数据集，展示了这一新型凸替代的效用。
引用
@article{arxiv.1512.07797,
title = {The Lov\'asz Hinge: A Novel Convex Surrogate for Submodular Losses},
author = {Jiaqian Yu and Matthew Blaschko},
journal= {arXiv preprint arXiv:1512.07797},
year = {2017}
}