基于结构化高斯过程的局部序列标注
机器学习
2022-09-21 v1
摘要
现有的局部序列标注模型主要关注最大间隔框架，无法提供预测的不确定性估计。此外，这些模型采用的独特真值消歧策略可能在参数学习中引入错误标签信息。本文提出用于局部序列标注的结构化高斯过程（SGPPSL），其在预测中编码不确定性，且无需额外的模型选择与超参数学习工作。该模型采用因子即片断近似，将线性链图结构划分为片断集合，保留了基本的马尔可夫随机场结构，并有效避免处理由部分标注数据生成的大量候选输出序列。随后在模型中引入置信度度量以应对候选标签的不同贡献，使真值标签信息能在参数学习中得以利用。基于所提模型的变分下界之推导下界，在交替优化框架下估计变分参数与置信度度量。此外，提出加权 Viterbi 算法将置信度度量纳入序列预测，其考虑了训练数据中多标注引发的标签歧义，从而有助于提升性能。SGPPSL 在若干序列标注任务上进行了评估，实验结果表明了所提模型的有效性。
引用
@article{arxiv.2209.09397,
title = {Partial sequence labeling with structured Gaussian Processes},
author = {Xiaolei Lu and Tommy W. S. Chow},
journal= {arXiv preprint arXiv:2209.09397},
year = {2022}
}