Neural-Hidden-CRF：一种鲁棒的弱监督序列标注器
计算与语言
2023-10-02 v2 人工智能
摘要
我们提出了一种名为 Neural-Hidden-CRF 的神经化无向图模型，以解决弱监督序列标注问题。在概率无向图理论的框架下，所提出的嵌入隐 CRF 层的 Neural-Hidden-CRF 模型，利用无向图模型特有的全局视角，对词序列、潜在真实序列和弱标签序列的变量进行建模。在 Neural-Hidden-CRF 中，我们可以利用强大的语言模型 BERT 或其他深度模型，为潜在真实序列提供丰富的上下文语义知识，并使用隐 CRF 层来捕获内部标签依赖关系。Neural-Hidden-CRF 在概念上简单，在经验上强大。它在一个众包基准和三个弱监督基准上取得了新的 SOTA 结果，包括在平均泛化性能和推理性能上分别比近期先进的 CHMM 模型高出 2.80 F1 分数和 2.23 F1 分数。
引用
@article{arxiv.2309.05086,
title = {Neural-Hidden-CRF: A Robust Weakly-Supervised Sequence Labeler},
author = {Zhijun Chen and Hailong Sun and Wanhao Zhang and Chunyi Xu and Qianren Mao and Pengpeng Chen},
journal= {arXiv preprint arXiv:2309.05086},
year = {2023}
}
备注
13 pages, 4 figures, accepted by SIGKDD-2023