BERTgrid：用于二维文档表示与理解的上文化嵌入
计算与语言
2019-10-15 v2 计算机视觉与模式识别
机器学习
摘要
为理解通用文档，诸如字体大小、栏式布局以及通常的词语位置等信息可能携带对解决下游文档智能任务至关重要的语义信息。我们新颖的 BERTgrid 基于 Katti 等人（2018）的 Chargrid，将文档表示为上文化词片嵌入向量的网格，从而使其空间结构与语义可被处理的神经网络所访问。这些上文化嵌入向量从 BERT 语言模型中获取。我们将 BERTgrid 与全卷积网络结合用于从发票中提取字段的语义实例分割任务。我们在表格化行项目和文档头部字段提取上展示了其性能。
引用
@article{arxiv.1909.04948,
title = {BERTgrid: Contextualized Embedding for 2D Document Representation and Understanding},
author = {Timo I. Denk and Christian Reisswig},
journal= {arXiv preprint arXiv:1909.04948},
year = {2019}
}
备注
4 pages, accepted at the "Document Intelligence" workshop of 33rd Conference on Neural Information Processing Systems (NeurIPS 2019), Vancouver, Canada