ROPE：用于基于图的文档信息抽取的顺序等变位置编码
计算与语言
2021-06-22 v1 机器学习
摘要
词语的自然阅读顺序对于从表单类文档中抽取信息至关重要。尽管图卷积网络（GCNs）在建模文档空间布局模式方面近期取得进展，但其在图中捕获给定词级节点表示的阅读顺序能力有限。我们提出阅读顺序等变位置编码（ROPE），一种旨在理解文档中词语顺序呈现的新位置编码技术。ROPE 针对给定的词级图连通性，为相对于目标词的相邻词生成唯一的阅读顺序码。我们在公共 FUNSD 数据集和大规模支付数据集上研究了两个基础文档实体抽取任务，包括词语标注和词语分组。我们表明 ROPE 以最高达 8.4% F1 分数的幅度持续提升现有 GCNs。
引用
@article{arxiv.2106.10786,
title = {ROPE: Reading Order Equivariant Positional Encoding for Graph-based Document Information Extraction},
author = {Chen-Yu Lee and Chun-Liang Li and Chu Wang and Renshen Wang and Yasuhisa Fujii and Siyang Qin and Ashok Popat and Tomas Pfister},
journal= {arXiv preprint arXiv:2106.10786},
year = {2021}
}
备注
Accepted to ACL-IJCNLP 2021 (Oral)