Transformer-GCRF：用广义条件随机场恢复汉语省略代词
计算与语言
2020-10-08 v1
摘要
在汉语对话中代词常被省略，恢复省略代词对机器翻译等自然语言处理（NLP）应用十分重要。现有方法通常将此表述为序列标注任务，预测每个词元前是否存在省略代词及其类型。每条话语被视为一个序列并独立标注。尽管这些方法已显示出前景，但独立标注每条话语忽略了相邻话语中代词之间的依赖关系。对这些依赖关系建模对提升省略代词恢复性能至关重要。本文提出一种新颖框架，将 Transformer 网络与广义条件随机场（GCRF）的优势结合，以建模相邻话语中代词间的依赖关系。在三个汉语对话数据集上的结果表明，Transformer-GCRF 模型优于最先进的省略代词恢复模型。探索性分析也表明，GCRF 确实有助于捕捉相邻话语中代词间的依赖关系，从而带来性能提升。
引用
@article{arxiv.2010.03224,
title = {Transformer-GCRF: Recovering Chinese Dropped Pronouns with General Conditional Random Fields},
author = {Jingxuan Yang and Kerui Xu and Jun Xu and Si Li and Sheng Gao and Jun Guo and Ji-Rong Wen and Nianwen Xue},
journal= {arXiv preprint arXiv:2010.03224},
year = {2020}
}
备注
Accept as EMNLP-findings 2020