大间隔玻尔兹曼机与大间隔Sigmoid信念网络
机器学习
2010-03-26 v1 人工智能
计算机视觉与模式识别
摘要
当前用于结构化预测的统计模型对底层输出图结构做出了简化假设，例如假设低阶马尔可夫链，因为随着底层图树宽的增加，精确推断变得棘手。另一方面，近似推断算法迫使人们在表示能力与计算效率之间进行权衡。在本文中，我们提出了两种新型概率图模型——大间隔玻尔兹曼机（LMBMs）和大间隔Sigmoid信念网络（LMSBNs），用于结构化预测。特别是，LMSBNs允许对任意图结构进行非常快速的推断算法，该算法以高概率在多项式时间内运行。该概率依赖于数据分布，并在学习过程中最大化。新方法克服了先前模型中的表示-效率权衡，并允许对复杂图结构进行快速结构化预测。我们展示了将全连接模型应用于多标签场景分类的结果，并表明所提出的方法可以比当前最先进的方法产生显著的性能提升。
引用
@article{arxiv.1003.4781,
title = {Large Margin Boltzmann Machines and Large Margin Sigmoid Belief Networks},
author = {Xu Miao and Rajesh P. N. Rao},
journal= {arXiv preprint arXiv:1003.4781},
year = {2010}
}