利用大语言模型改进金融审计中的零样本文本匹配
计算与语言
2023-08-15 v2 人工智能
摘要
审计财务文档是一个极其繁琐且耗时的过程。如今，通过采用基于 AI 的解决方案，针对严格的会计准则中每项法律要求从报告中推荐相关文本段落，已经可以简化该过程。然而，这些方法需要定期微调，并且需要大量标注数据，而工业环境中往往缺乏此类数据。因此，我们提出 ZeroShotALI，一种新颖的推荐系统，它利用最先进的大语言模型（LLM）以及针对领域特定优化的基于 transformer 的文本匹配方案。我们发现，首先使用自定义的基于 BERT 的模型为每项法律要求检索若干最佳匹配文档段落，随后使用 LLM 对这些候选进行筛选的两步方法，相比现有方法取得了显著的性能提升。
引用
@article{arxiv.2308.06111,
title = {Improving Zero-Shot Text Matching for Financial Auditing with Large Language Models},
author = {Lars Hillebrand and Armin Berger and Tobias Deußer and Tim Dilmaghani and Mohamed Khaled and Bernd Kliem and Rüdiger Loitz and Maren Pielka and David Leonhard and Christian Bauckhage and Rafet Sifa},
journal= {arXiv preprint arXiv:2308.06111},
year = {2023}
}
备注
Accepted at DocEng 2023, 4 pages, 1 figure, 2 tables