用于序列标注的和积网络
机器学习
2018-07-09 v1 机器学习
摘要
我们考虑用于序列建模的高阶线性链条件随机场（HO-LC-CRFs），并使用和积网络（SPNs）来表示高阶输入依赖与输出依赖因子。SPNs 是最近提出的一类深度模型，可对其进行精确且高效的推断。通过将 HO-LC-CRFs 与 SPNs 结合，我们在输出标签与隐变量上实例化了具有表现力的模型，同时仍能实现高效的精确推断。此外，高阶因子的使用使我们能够捕捉多个输入片段与多个输出标签之间的关系，这类关系常存在于真实世界数据中。这些关系无法被常用的仅包含单个输出标签的一阶模型以及具有局部因子（仅含单个输出标签）的高阶模型所建模。我们证明了所提模型在序列标注上的有效性。在大量实验中，我们在光学字符识别上优于其他最先进方法，并在音素分类上取得了有竞争力的结果。
引用
@article{arxiv.1807.02324,
title = {Sum-Product Networks for Sequence Labeling},
author = {Martin Ratajczak and Sebastian Tschiatschek and Franz Pernkopf},
journal= {arXiv preprint arXiv:1807.02324},
year = {2018}
}