结构化预测能量网络的端到端学习
机器学习
2017-07-18 v2 机器学习
摘要
结构化预测能量网络（SPENs）是一类简单而富有表现力的结构化预测模型（Belanger 和 McCallum, 2016）。候选结构化输出上的能量函数由深度网络给出，预测通过基于梯度的优化形成。本文介绍了 SPENs 的端到端学习，其中能量函数通过基于梯度的预测进行反向传播来进行判别性训练。根据我们的经验，该方法比 Belanger 和 McCallum（2016）的结构化 SVM 方法要准确得多，因为它允许我们使用更复杂的非凸能量。我们提供了一系列技术来提高端到端 SPENs 的速度、精度和内存需求，并在 7-Scenes 图像去噪和 CoNLL-2005 语义角色标注任务上展示了我们方法的强大能力。在这两个任务中，非凸 SPEN 能量的不精确最小化优于使用可以被精确最小化的简单能量函数的基线方法。
引用
@article{arxiv.1703.05667,
title = {End-to-End Learning for Structured Prediction Energy Networks},
author = {David Belanger and Bishan Yang and Andrew McCallum},
journal= {arXiv preprint arXiv:1703.05667},
year = {2017}
}
备注
ICML 2017