带校准凸替代损失的结构化预测理论
机器学习
2018-01-30 v4 机器学习
摘要
我们针对具有一致性保证的高效凸替代损失最小化背景下的结构化预测，提供了新颖的理论见解。对于任意任务损失，我们构造了一个可通过随机梯度下降优化的凸替代损失，并证明了将替代风险过量与实际风险相关联的所谓“校准函数”的紧界。与先前相关工作不同，我们仔细监测了类指数数量在学习保证以及优化复杂度上的影响。一个有趣的结果是，我们形式化了这样一种直觉：某些任务损失使得学习比其他损失更困难，并且经典的0-1损失不适合一般的结构化预测。
引用
@article{arxiv.1703.02403,
title = {On Structured Prediction Theory with Calibrated Convex Surrogate Losses},
author = {Anton Osokin and Francis Bach and Simon Lacoste-Julien},
journal= {arXiv preprint arXiv:1703.02403},
year = {2018}
}
备注
Appears in: Advances in Neural Information Processing Systems 30 (NIPS 2017). 30 pages