Arctic-TILT:亚百亿参数规模下的商业文档理解
计算与语言
2024-08-09 v1 计算机视觉与模式识别
摘要
大量使用大语言模型的工作涉及基于 PDF 或扫描内容回答问题。我们介绍了 Arctic-TILT,在此类用例中实现与规模为 1000 倍的模型相当的准确率。它可以在单个 24GB GPU 上进行微调和部署,降低了在处理高程文档时(最高可达 40 万 token)的运营成本。该模型在七个多样化文档理解基准测试中建立了最新结果,同时提供可靠的置信度评分和快速推理,这些都是在大规模或时间敏感的企业环境中处理文件的关键要素。
引用
@article{arxiv.2408.04632,
title = {Arctic-TILT. Business Document Understanding at Sub-Billion Scale},
author = {Łukasz Borchmann and Michał Pietruszka and Wojciech Jaśkowski and Dawid Jurkiewicz and Piotr Halama and Paweł Józiak and Łukasz Garncarek and Paweł Liskowski and Karolina Szyndler and Andrzej Gretkowski and Julita Ołtusek and Gabriela Nowakowska and Artur Zawłocki and Łukasz Duhr and Paweł Dyda and Michał Turski},
journal= {arXiv preprint arXiv:2408.04632},
year = {2024}
}