结构化预测能量网络
机器学习
2016-09-08 v3 机器学习
摘要
我们引入了结构化预测能量网络,这是一种用于结构化预测的灵活框架。该网络使用深度架构来定义候选标签的能量函数,随后通过反向传播迭代地优化关于标签的能量来产生预测。这种深度架构捕获了会导致棘手图模型的标签间依赖关系,并通过自动学习结构化输出的判别性特征来执行结构学习。我们技术的一个自然应用是多标签分类,传统上这要求对标签间的交互做出严格的先验假设,以确保学习和预测的易处理性。我们能够将 SPENs 应用于标签集比以往结构化预测应用大得多的多标签问题,同时使用最少的结构假设对高阶交互进行建模。总体而言,深度学习为学习预测问题输入的特征提供了卓越的工具,而本工作将这些技术扩展到学习结构化输出的特征。我们的实验在各种基准多标签分类任务上取得了出色的性能,证明了我们的技术可用于提供可解释的结构学习,并阐明了前馈与迭代结构化预测之间的基本权衡。
引用
@article{arxiv.1511.06350,
title = {Structured Prediction Energy Networks},
author = {David Belanger and Andrew McCallum},
journal= {arXiv preprint arXiv:1511.06350},
year = {2016}
}
备注
ICML 2016