中文

表单理解中的 Transformer 与语言模型:扫描文档分析综述

计算与语言 2024-03-08 v1 计算机视觉与模式识别

摘要

本文对扫描文档背景下的表单理解主题的研究工作进行了全面综述。我们深入探讨了该领域的最新进展和突破,强调了语言模型和 Transformer 在解决这一挑战性任务中的重要性。我们的研究方法包括对过去十年流行的文档和表单理解趋势进行深入分析,使我们能够对该领域的演变提供有价值的见解。聚焦于前沿模型,我们展示了 Transformer 如何推动该领域向前发展,彻底改变了表单理解技术。我们的探索包括对旨在有效应对噪声扫描文档复杂性的最先进语言模型的广泛考察。此外,我们概述了最新且最相关的数据集,这些数据集作为评估所选模型性能的基本基准。通过比较和对比这些模型的能力,我们旨在为研究人员和从业者为特定的表单理解任务选择最合适的解决方案提供有用的指导。

关键词

引用

@article{arxiv.2403.04080,
  title  = {Transformers and Language Models in Form Understanding: A Comprehensive Review of Scanned Document Analysis},
  author = {Abdelrahman Abdallah and Daniel Eberharter and Zoe Pfister and Adam Jatowt},
  journal= {arXiv preprint arXiv:2403.04080},
  year   = {2024}
}