基于表格语言模型的工业表格命名实体识别
人工智能
2022-09-30 v1 计算与语言
摘要
用于编码表格数据的专用基于 transformer 的模型已在学术界引起关注。尽管表格数据在工业中无处不在，表格 transformer 的应用仍然缺失。本文研究这些模型如何应用于一个工业命名实体识别（NER）问题，其中实体出现于表格结构的电子表格中。电子表格的高度技术性以及标注数据的缺乏，为微调基于 transformer 的模型带来重大挑战。因此，我们基于可用的领域特定知识图谱开发了专用的表格数据增强策略。我们展示这在我们的低资源场景下显著提升了性能。此外，我们研究了表格结构作为归纳偏置相较于将表格作为线性化序列的益处。我们的实验证实表格 transformer 优于其他基线，且其表格归纳偏置对基于 transformer 模型的收敛至关重要。
引用
@article{arxiv.2209.14812,
title = {Named Entity Recognition in Industrial Tables using Tabular Language Models},
author = {Aneta Koleva and Martin Ringsquandl and Mark Buckley and Rakebul Hasan and Volker Tresp},
journal= {arXiv preprint arXiv:2209.14812},
year = {2022}
}
备注
EMNLP 2022 Industry Track