基于Transformer的历史文献手写体与命名实体联合识别方法
计算机视觉与模式识别
2021-12-09 v1 计算与语言
摘要
从手写文档中提取由命名实体承载的相关信息仍然是一项具有挑战性的任务。与通常将文本转录和命名实体识别视为分离的后续任务的传统信息提取方法不同，我们在本文中提出了一种端到端的基于Transformer的方法来联合执行这两个任务。所提出的方法在段落级别上运行，这带来了两个主要好处。首先，它允许模型避免因行分割导致的不可恢复的早期错误。其次，它允许模型利用更大的二维上下文信息来识别语义类别，从而达到更高的最终预测精度。我们还探索了不同的训练场景以展示它们对性能的影响，并证明了一种两阶段学习策略可以使模型达到更高的最终预测精度。据我们所知，这项工作首次提出了将Transformer网络用于手写文档中的命名实体识别的方法。我们在ICDAR 2017信息提取竞赛中，使用Esposalles数据库，在完整任务上取得了新的最先进性能，即使所提出的技术未使用任何词典、语言模型或后处理。
引用
@article{arxiv.2112.04189,
title = {Transformer-Based Approach for Joint Handwriting and Named Entity Recognition in Historical documents},
author = {Ahmed Cheikh Rouhoua and Marwa Dhiaf and Yousri Kessentini and Sinda Ben Salem},
journal= {arXiv preprint arXiv:2112.04189},
year = {2021}
}